intelligence artificielle
DIVERS
+ DE 2 ANS
Le 05/10/2015 à 15h33
233 vues
Question d'origine :
Quels sont les risques de l'intelligence artificielle?
Réponse du Guichet
gds_et
- Département : Équipe du Guichet du Savoir
Le 06/10/2015 à 15h24
Bonjour,
La science-fiction anticipe depuis longtemps les dangers de l’intelligence artificielle : 2001, L’Odyssée de l’espace, Terminator, Matrix, Battlestar Galactica (pour ne citer qu’eux !) expriment selon différents scénarios catastrophes notre peur de voir les machines dépasser l’humanité et se retourner contre elle…
Cette peur est-elle complètement irrationnelle, ou est-elle fondée ?
Même au sein de la communauté scientifique, les avis sont très partagés : alors que Stephen Hawking considère que le développement d’une intelligence artificielle complète pourrait tout bonnement mettre fin à l’humanité, Rollo Carpentier, créateur de Cleverbot, est beaucoup moins alarmiste :
Cleverbot est un logiciel qui est conçu pour discuter, comme le ferait un humain
« Je crois que nous garderons le contrôle de la technologie pour une période de temps très longue, et le potentiel qu’elle puisse résoudre bon nombre des problèmes mondiaux sera réalisé », a déclaré Rollo Carpenter, créateur de Cleverbot.
Le logiciel de Cleverbot apprend de ses conversations précédentes, et a atteint des scores élevés dans le test de Turing, trompant une forte proportion de personnes en leur faisant croire qu’ils parlent à un être humain.
La montée des Robots
Rollo Carpenter dit que nous sommes loin d’avoir la puissance de calcul ou la capacité de développer les algorithmes nécessaires pour atteindre une intelligence artificielle complète, mais estime qu’elle viendra dans les prochaines décennies.
« Nous ne pouvons pas savoir très bien ce qui se passera si une machine dépasse notre propre intelligence, nous ne pouvons pas savoir si nous serons aidés infiniment par elle, ou ignorés par elle et mis à l’écart, ou, éventuellement, détruits par elle, » dit-il.
Mais il fait le pari que l’IA sera une force positive.
Source : Stephen Hawking avertit que l’intelligence artificielle pourrait éliminer l’humanité, infohightech.com
Stephen Hawking n’est pas seul à manifester de l’inquiétude : plus de 700 scientifiques et chefs d’entreprises ont signé une lettre ouverte publiée par le Future Life Institute (FLI), un organisme américain à but non lucratif qui compte parmi ses membres le physicien britannique Stephen Hawking, Elon Musk, George Church, professeur de génétique à l'université de Harvard, ou encore l'acteur américain Morgan Freeman.
« Il existe désormais un large consensus selon lequel les recherches dans l'intelligence artificielle continuent à progresser et que l'impact sur la société va probablement s'accroître », estiment-ils, citant la possibilité « d'éradiquer des maladies et la pauvreté ». « Etant donné le grand potentiel de l'intelligence artificielle il est important d'étudier comment la société peut profiter de ses bienfaits, mais aussi comment éviter ses pièges », insistent-ils.
Source : Des scientifiques américains s’inquiètent de l’évolution de l’intelligence artificielle, Le Monde
Elon Musk a récemment investi plusieurs millions de dollars dans 37 projets de recherche visant à prévenir les risques liés à l’intelligence artificielle.
D’après Max Tegmark, le président du FLI, le vrai danger du « scénario Terminator » n’est pas qu’il se réalise, mais plutôt qu’il nous distraie des véritables problèmes posés par l’IA. Les projets sélectionnés doivent donc répondre à ces « vrais problèmes » pour que l’IA se développe dans les conditions les plus bénéfiques pour nous, les humains, l’idée étant de laisser aux agents artificiels une autonomie de plus en plus grande tout en s’assurant qu’ils respectent les lois et les principes moraux qui gouvernent la société… bref, qu’ils se comportent comme on attend que le fasse idéalement un opérateur humain…
Précisons tout de même que le stade de développement actuel de l’IA est encore loin de refléter l’idée que nous nous en faisons en termes d’intelligence et d’autonomie :
L'intelligence artificielle n'est, au moins dans l'état actuel des recherches, qu'une simulation. Pourtant, une simulation, même élémentaire, peut entraîner l'illusion d'une intelligence ou d'émotions réelles. Un rapport de l'armée américaine l'a montré : les soldats qui utilisent des robots savent très bien que ce sont des outils et, pourtant, ils interagissent parfois avec eux comme ils le feraient avec un être humain ou un animal.
Aussi doit-on distinguer la façon dont un humain peut prêter une intelligence à un objet et la réalité même de l'intelligence de cet objet. Une machine élémentaire peut apparaître douée d'intelligence pour quelqu'un qui en ignore le fonctionnement, parce qu'elle lui paraît imprévisible et qu'il est tenté de lui chercher des intentions.
À l'inverse, une machine extrêmement sophistiquée, réagissant de façon toujours prévisible, peut sembler dénuée d'intelligence. En fin de compte, ce n'est ni la machine en elle-même ni l'humain pris isolément qui caractérise l'intelligence. On doit plutôt la chercher dans les relations entre humains et machines. Et ces liens, incroyablement complexes, iront bien au-delà de ce que les concepteurs peuvent imaginer.
Source : Où sont les vrais dangers de l’intelligence artificielle ?, Pour La Science n°87, avril-juin 2015
La révolte des machines n’est donc pas programmée pour tout de suite…
Bonne journée.
La science-fiction anticipe depuis longtemps les dangers de l’intelligence artificielle : 2001, L’Odyssée de l’espace, Terminator, Matrix, Battlestar Galactica (pour ne citer qu’eux !) expriment selon différents scénarios catastrophes notre peur de voir les machines dépasser l’humanité et se retourner contre elle…
Cette peur est-elle complètement irrationnelle, ou est-elle fondée ?
Même au sein de la communauté scientifique, les avis sont très partagés : alors que Stephen Hawking considère que le développement d’une intelligence artificielle complète pourrait tout bonnement mettre fin à l’humanité, Rollo Carpentier, créateur de Cleverbot, est beaucoup moins alarmiste :
Cleverbot est un logiciel qui est conçu pour discuter, comme le ferait un humain
« Je crois que nous garderons le contrôle de la technologie pour une période de temps très longue, et le potentiel qu’elle puisse résoudre bon nombre des problèmes mondiaux sera réalisé », a déclaré Rollo Carpenter, créateur de Cleverbot.
Le logiciel de Cleverbot apprend de ses conversations précédentes, et a atteint des scores élevés dans le test de Turing, trompant une forte proportion de personnes en leur faisant croire qu’ils parlent à un être humain.
Rollo Carpenter dit que nous sommes loin d’avoir la puissance de calcul ou la capacité de développer les algorithmes nécessaires pour atteindre une intelligence artificielle complète, mais estime qu’elle viendra dans les prochaines décennies.
« Nous ne pouvons pas savoir très bien ce qui se passera si une machine dépasse notre propre intelligence, nous ne pouvons pas savoir si nous serons aidés infiniment par elle, ou ignorés par elle et mis à l’écart, ou, éventuellement, détruits par elle, » dit-il.
Mais il fait le pari que l’IA sera une force positive.
Source : Stephen Hawking avertit que l’intelligence artificielle pourrait éliminer l’humanité, infohightech.com
Stephen Hawking n’est pas seul à manifester de l’inquiétude : plus de 700 scientifiques et chefs d’entreprises ont signé une lettre ouverte publiée par le Future Life Institute (FLI), un organisme américain à but non lucratif qui compte parmi ses membres le physicien britannique Stephen Hawking, Elon Musk, George Church, professeur de génétique à l'université de Harvard, ou encore l'acteur américain Morgan Freeman.
« Il existe désormais un large consensus selon lequel les recherches dans l'intelligence artificielle continuent à progresser et que l'impact sur la société va probablement s'accroître », estiment-ils, citant la possibilité « d'éradiquer des maladies et la pauvreté ». « Etant donné le grand potentiel de l'intelligence artificielle il est important d'étudier comment la société peut profiter de ses bienfaits, mais aussi comment éviter ses pièges », insistent-ils.
Source : Des scientifiques américains s’inquiètent de l’évolution de l’intelligence artificielle, Le Monde
Elon Musk a récemment investi plusieurs millions de dollars dans 37 projets de recherche visant à prévenir les risques liés à l’intelligence artificielle.
D’après Max Tegmark, le président du FLI, le vrai danger du « scénario Terminator » n’est pas qu’il se réalise, mais plutôt qu’il nous distraie des véritables problèmes posés par l’IA. Les projets sélectionnés doivent donc répondre à ces « vrais problèmes » pour que l’IA se développe dans les conditions les plus bénéfiques pour nous, les humains, l’idée étant de laisser aux agents artificiels une autonomie de plus en plus grande tout en s’assurant qu’ils respectent les lois et les principes moraux qui gouvernent la société… bref, qu’ils se comportent comme on attend que le fasse idéalement un opérateur humain…
Précisons tout de même que le stade de développement actuel de l’IA est encore loin de refléter l’idée que nous nous en faisons en termes d’intelligence et d’autonomie :
L'intelligence artificielle n'est, au moins dans l'état actuel des recherches, qu'une simulation. Pourtant, une simulation, même élémentaire, peut entraîner l'illusion d'une intelligence ou d'émotions réelles. Un rapport de l'armée américaine l'a montré : les soldats qui utilisent des robots savent très bien que ce sont des outils et, pourtant, ils interagissent parfois avec eux comme ils le feraient avec un être humain ou un animal.
Aussi doit-on distinguer la façon dont un humain peut prêter une intelligence à un objet et la réalité même de l'intelligence de cet objet. Une machine élémentaire peut apparaître douée d'intelligence pour quelqu'un qui en ignore le fonctionnement, parce qu'elle lui paraît imprévisible et qu'il est tenté de lui chercher des intentions.
À l'inverse, une machine extrêmement sophistiquée, réagissant de façon toujours prévisible, peut sembler dénuée d'intelligence. En fin de compte, ce n'est ni la machine en elle-même ni l'humain pris isolément qui caractérise l'intelligence. On doit plutôt la chercher dans les relations entre humains et machines. Et ces liens, incroyablement complexes, iront bien au-delà de ce que les concepteurs peuvent imaginer.
Source : Où sont les vrais dangers de l’intelligence artificielle ?, Pour La Science n°87, avril-juin 2015
La révolte des machines n’est donc pas programmée pour tout de suite…
Bonne journée.
DANS NOS COLLECTIONS :
Commentaires 0
Connectez-vous pour pouvoir commenter.
Se connecter