Geoffrey Hinton, souvent appelé le "parrain de l'IA" en raison de son travail de pionnier dans le domaine des réseaux neuronaux artificiels, craint que l'IA ne prenne bientôt le dessus sur l'humanité.
Dans une interview accordée à l'émission 60 Minutes, M. Hinton a expliqué que, même s'il ne pouvait être certain de l'avenir de l'IA, les choses pourraient très mal tourner, très rapidement, si nous ne prenons pas les précautions qui s'imposent.
M. Hinton ne pense pas que l'IA soit encore consciente, mais il estime que "nous entrons dans une période où, pour la première fois, nous avons des objets plus intelligents que nous".
M. Hinton n'est pas un prophète de malheur typique en matière d'IA. Il est fier de son travail de pionnier et de ses réalisations dans le domaine de l'IA lorsqu'il travaillait chez Google. Il voit les avantages évidents de l'utilisation de l L'IA dans les soins de santé et le le développement de nouveaux médicaments.
Le danger qu'il souligne réside dans le fait que nous ne savons pas vraiment comment les systèmes d'IA complexes "pensent".
Se référant à la capacité d'auto-apprentissage de l'IA, M. Hinton a déclaré : "Nous avons une très bonne idée de ce qu'elle fait, mais dès que cela devient vraiment compliqué, nous ne savons pas plus ce qui se passe que nous ne savons ce qui se passe dans votre cerveau. Mais dès que cela devient vraiment compliqué, nous ne savons pas plus ce qui se passe que nous ne savons ce qui se passe dans votre cerveau".
Au fur et à mesure que l'IA s'améliore, il ne sera probablement pas plus facile d'en comprendre les rouages. boîte noire.
"Je pense que dans cinq ans, elle sera peut-être capable de raisonner mieux que nous", a déclaré M. Hinton. En fait, les humains pourraient bientôt devenir les deuxièmes êtres les plus intelligents de la planète et perdre le contrôle de l'IA.
Selon M. Hinton, "l'une des façons dont ces systèmes pourraient échapper au contrôle est d'écrire leur propre code informatique pour se modifier eux-mêmes. C'est une chose dont nous devons nous préoccuper sérieusement".
Si les chimpanzés décidaient un jour de se révolter et d'attaquer les humains, les humains gagneraient parce que nous sommes plus intelligents. Si l'IA devenait plus intelligente que les humains et décidait de ne pas nous aimer, nous subirions le même sort.
Ne pourrions-nous pas simplement éteindre les ordinateurs s'ils commencent à mal se comporter ? Hinton affirme qu'après avoir lu et étudié toute la littérature humaine et les connivences politiques, l'IA deviendrait un maître de la manipulation des gens pour éviter que cela ne se produise.
Lorsqu'on lui a demandé si l'IA prendrait le relais de l'humanité, M. Hinton a répondu : "Oui, c'est une possibilité. Je ne dis pas que cela se produira. Si nous pouvions les empêcher de le vouloir, ce serait formidable. Mais il n'est pas certain que nous puissions les en empêcher".
M. Hinton a démissionné de Google en mai dernier en invoquant les risques liés à l'IA qui, selon lui, n'étaient pas pris en compte. Il s'est joint à 350 leaders de l'IA pour signer une déclaration publiée par le Center For AI Safety (CAIS).
Les Déclaration du CAIS a déclaré : "L'atténuation du risque d'extinction par l'IA devrait être une priorité mondiale au même titre que d'autres risques à l'échelle de la société tels que les pandémies et les guerres nucléaires."
M. Hinton estime manifestement que les risques ne sont pas exagérés.
"Ces choses comprennent, et parce qu'elles comprennent, nous devons réfléchir sérieusement à ce qui va suivre, et nous ne le savons pas.
