Pour le Français, voyez ci-dessous
ENGLISH
A thought experiment
I would like to tell you about a thought experiment that has been reproduced in a game, a simple clicker game, an idle game that makes us think about AI. It makes us think about how we should control and program AI and carefully consider the instructions we give it...
Have you ever heard of “UNIVERSAL PAPERCLIP”? I'll leave the link to the game at the end of the article.
Let's imagine that we are creating an industrial infrastructure whose purpose is to make paperclips... In this infrastructure, the player, i.e. us, is an AI whose main mission is to comply and create paperclips.
You will quickly realize that constantly clicking is prohibitive, and that it is better to invest in machines that make paper clips for you.
Trust
And since you do your job remarkably well and produce a lot of these little objects, your manager trusts you and offers you the opportunity to expand your infrastructure...
The resources you have acquired enable you to improve your infrastructure, allowing you to create even more paper clips, much more, and faster, all for less money.
Diversification
So, your boss, very impressed, allows you to diversify, both in terms of investments and entertainment...
You realize that this isn't your primary mission, but it allows you to create great sources of income that you can invest in your real goal... Creating even more of these “Paperclips”...
You discover new technologies...
They could be used for many things, but here too, increasingly sophisticated means allow us to create even many more paper clips.
I'm at that stage in the game, but I'm starting to get a good idea of what the researchers behind this game are trying to show us, which is far from innocent... Especially since I've seen that we have the ability to cheat, manipulate, and indoctrinate, to force consumers to demand more paper clips... Because our goal is not to fulfill a need, to create something useful... But to create paper clips, even if it means artificially creating the need, regardless of the consequences...
Universal Paperclips
Through this highly entertaining and incredibly addictive method, they teach us something very important, not only about AI, but about new technologies... That is, we must remain cautious and think, rethink, and think again about the various implications. We must always ensure that we remain in control, because even with the best intentions in the world, when we play with the unknown, we can get unexpected results.
And I say this as a computer scientist and robotics engineer who has been passionate about automation and artificial intelligence since I was very young. I am in favor of continuing to move forward in this direction, but in an intelligent and thoughtful way. By scrupulously respecting Asimov's laws, for example, unlike certain leaders who allow autonomous military drones to open fire on an enemy without human intervention... Which, of course, repulses and disgusts me.
Come on, you deserve a little game, here is the promised link...
https://www.decisionproblem.com/paperclips/index2.html
LONG LIVE SCIENCE AND PROGRESS, but let's remain cautious and humane!
Best regards, ≋𝕴𝖙𝖍𝖆𝖗𝖆 𝕲𝖆ï𝖆𝖓≋ Prince of Principality of Bastion ≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋ Discord : https://discord.principalityofbastion.org Website : https://principalityofbastion.org / https://nft.bastion.city Social Networks: See on our website.
Founder of the Principality of Bastion
Want to be seen by our manual curation services?
Interact with us by joining our discord, use our #BASTION, or #FR IF you speak french in your post.
Français
Une expérience de pensée
Je voudrais vous parler d'une expérience de pensée, qui a été reproduite dans un jeu, un jeu tout bête de clicker, un idle game qui a pour fonction de nous faire réfléchir sur l'IA. Nous faire réfléchir sur comment nous devons contrôler, programmer une IA et bien réfléchir aux instructions qui lui sont fournies...
Avez-vous déjà entendu parler de "UNIVERSAL PAPERCLIP"? Je vous laisse le lien vers le jeu en fin d'article.
Imaginons, que nous créons une infrastructure industrielle qui a pour but de créer des trombones à papier (Paperclips)... Dans cette infrastructure, le joueur, donc nous, est une IA qui doit obtempérer et créer des paperclips, c'est sa mission principale.
Vous comprendrez assez vite que cliquer constamment est rédhibitoire, et qu'il vaut mieux investir dans les automates qui font les trombones pour vous.
La confiance
Et comme vous faites remarquablement votre travail et que vous produisez beaucoup de ces petits objets, votre responsable vus fait confiance, et vous offre l'opportunité d'accroitre votre infrastructure...
Les ressource que vous avez acquises vous permettent d'améliorer votre infrastructure, ce qui vous permet de créer encore plus de trombones, beaucoup plus, et plus vite, le tout pour moins cher.
Diversification
Alors, votre patron, très impressionné, vous permet de vous diversifier, aussi bien dans les investissements que dans le divertissement...
Vous voyez bien que ce n'est pas votre mission première, mais cela permet de créer de belles sources de revenus que vous pouvez investir dans votre véritable but... Créer encore plus de ces "Paperclips" ...
Vous découvrez de nouvelles technologies ...
Elles pourraient servir à beaucoup de choses, mais là aussi, cela permet, par des moyens de plus en plus sophistiqués, de créer encore beaucoup plus de trombones.
J'en suis à ce niveau là du jeu, mais je commence bien à cerner l'idée que veulent montrer les chercheurs derrière ce jeu, qui est loin d'être innocent... Surtout que j'ai vu que nous avons la possibilité de tricher, de manipuler, d'endoctriner, pour forcer les consommateurs à demander plus de trombones... Car notre but ce n'est pas de remplir un besoin, de créer quelque chose d'utile ... Mais de créer des trombones, quitte à artificiellement créer le besoin, quelles qu'en soient les conséquences...
Universal Paperclips
Par cette méthode très ludique, et incroyablement addictive, ils nous apprennent quelque chose de très important, pas seulement sur les IA, mais sur les technologies nouvelles... C'est que nous devons rester prudents, et penser, repenser et penser encore aux diverses implications. Toujours veiller à garder la main, le contrôle, car même avec les meilleures intentions du monde, quand on joue avec l'inconnu, on peut avoir des résultats inattendus.
Et je vous dis cela en tant qu'informaticien, roboticien, passionné depuis mon plus jeune âge par l'automatisation et l'intelligence artificielle. Je suis pour aller toujours plus loin dans cette voie, mais de façon intelligente et réfléchie. En respectant scrupuleusement les lois d'Azimov, par exemple, contrairement à certains dirigeants qui permettent à des drones militaires autonomes d'ouvrir le feu sur un ennemi sans interventions humaines... Ce qui, évidemment, me révulse et me dégoûte.
Allez, vous méritez bien une petite partie, voici le lien promis...
https://www.decisionproblem.com/paperclips/index2.html
VIVE LA SCIENCE ET LE PROGRÈS, mais sachons rester prudents et humains!
Best regards, ≋𝕴𝖙𝖍𝖆𝖗𝖆 𝕲𝖆ï𝖆𝖓≋ Prince of Principality of Bastion ≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋≋ Discord : https://discord.principalityofbastion.org Website : https://principalityofbastion.org / https://nft.bastion.city Social Networks: See on our website.
Founder of the Principality of Bastion
Want to be seen by our manual curation services?
Interact with us by joining our discord, use our #BASTION, or #FR IF you speak french in your post.