Bienvenue dans le tour d'horizon de l'actualité de l'IA générée par l'homme.
Cette semaine, l'IA a érodé notre confiance, même si nous ne pouvons pas nous en passer.
Les acteurs, les programmeurs et les pilotes de chasse pourraient perdre leur emploi au profit de l'IA.
Et les scientifiques jurent de ne pas utiliser l'IA pour fabriquer de mauvaises protéines.
Voyons ce qu'il en est.
Faire confiance mais vérifier
La confiance de la société dans l'IA continue de décliner alors même que l'adoption d'outils d'IA générative se développe à un rythme effréné. Pourquoi sommes-nous si disposés à adopter une technologie en dépit de nos craintes quant à la manière dont elle façonnera notre avenir ? Qu'est-ce qui se cache derrière cette méfiance, et peut-on y remédier ?
L'exploration par Sam de la dissonance entre la méfiance croissante et l'augmentation de l'utilisation de l'IA générative nous aide à jeter un regard honnête sur notre relation conflictuelle avec l'IA.
Le scepticisme à l'égard de l'IA s'explique notamment par les points de vue alarmistes véhiculés par certains secteurs de l'industrie. Un rapport commandé par le gouvernement américain indique que L'IA représente une "menace d'extinction" pour notre espèce.
Le rapport recommande d'interdire les modèles à source ouverte, alors même que les partisans de l'IA ouverte rejettent le rapport en le qualifiant d'alarmisme scientifique.
L'actualité de l'IA a été un peu moins riche cette semaine en matière de trucages. La princesse de Galles Kate Middleton a été frappée par une controverse sur les fausses images profondes sur son montage trop enthousiaste d'une photo d'elle et de ses enfants.
L'indignation des médias face à une photo retouchée d'une célébrité est un peu hypocrite, mais c'est peut-être une bonne chose que la société soit de plus en plus sensibilisée à ce qui est réel et à ce qui ne l'est pas. Un progrès ?
Je ne suis pas un expert, mais je pense sérieusement que la #KateMiddleton la photo est un fauxpic.twitter.com/CfMJM9XZfW
- Zain Rajpoot (@ZAIN_MZQ) 11 mars 2024
Les emplois de l'IA dans le cadre de Counter-Strike
L'industrie du jeu s'est empressée d'adopter l'IA, mais les acteurs et les artistes de la voix ne sont pas satisfaits de la façon dont les choses se passent. La SAG-AFTRA déclare maintenant qu'il est "50-50 ou plus probable" que l'IA soit utilisée dans les jeux vidéo. Grève pour les négociations sur les jeux vidéo.
Jouer à un jeu de simulation de vol pourrait bientôt être ce qui rapproche le plus les pilotes de chasse de la réalité, car la perspective de voir l'IA les remplacer devient une réalité. Le Pentagone prévoit de mettre en place les premiers jeux de simulation de vol. 1 000 mini-avions de combat fantômes pilotés par l'IA dans les prochains mois.
Des essaims de chasseurs autonomes armés de missiles et dirigés par une IA sujette aux hallucinations. Qu'est-ce qui pourrait mal tourner ?
Le PDG de Stability AI, Emad Mostaque, a fait froncer les sourcils lorsqu'il a déclaré qu'il n'y aurait plus besoin de programmeurs humains dans les prochaines années. Cette affirmation audacieuse semble de plus en plus susceptible de se réaliser.
Cette semaine, Cognition AI a annoncé Devin, développeur de logiciels d'IA autonome qui peut réaliser des projets de codage entiers à partir d'invites textuelles. Devin peut même configurer et affiner de manière autonome d'autres modèles d'IA.
Je n'en sais pas assez sur #devinMais je trouve amusant que le premier ingénieur logiciel en IA recherche de nouveaux ingénieurs logiciels. #echnique du logiciel pic.twitter.com/zKsI2FVA51
- Marcel (@MarcelNdrecaj) 12 mars 2024
L'affirmation de Mostaque mérite peut-être d'être clarifiée. Bientôt, il n'y aura plus besoin d'humains capables d'écrire du code, mais des outils comme Devin permettront à n'importe qui d'être un programmeur.
Si vous êtes un acteur au chômage, un pilote de chasse ou un programmeur à la recherche d'un emploi dans le domaine de l'IA, voici quelques-unes des possibilités qui s'offrent à vous. Les meilleures universités pour étudier l'IA en 2024.
La sécurité avant tout
Des outils d'IA comme AlphaFold de DeepMind ont accéléré la conception de nouvelles protéines. Comment s'assurer que ces outils ne sont pas utilisés pour fabriquer de nouvelles protéines qui pourraient être utilisées à des fins malveillantes ?
Les chercheurs ont créé un ensemble de des règles de sécurité volontaires pour la conception de protéines par l'IA et la synthèse de l'ADNLe projet a été approuvé par la Commission européenne, et des personnalités de renom ont signé pour le soutenir.
L'un des engagements est de n'utiliser que des laboratoires de synthèse d'ADN qui vérifient si la protéine est dangereuse avant de la fabriquer. Cela signifie-t-il que certains laboratoires ne le font pas ? Quels sont, selon vous, les laboratoires que les malfaiteurs sont susceptibles d'utiliser ?
Une équipe de chercheurs a mis au point un critère permettant de mesurer la probabilité qu'un LLM aide un acteur malveillant à fabriquer une bombe ou une arme biologique. Leur nouvelle technique aide le modèle d'IA à désapprendre les connaissances dangereuses tout en conservant les bonnes choses. Enfin, presque.
Les modèles alignés refuseront poliment votre demande d'aide pour fabriquer une bombe. Si vous utiliser l'art ASCII pour créer les mots coquins et une technique d'invite intelligente, vous pouvez facilement contourner ces garde-fous.
AI en forme de cœur
Les chercheurs ont utilisé l'IA pour explorer comment la génétique influence la morphologie du cœur d'une personne. La création de cartes en 3D du cœur et l'établissement d'un lien avec la génétique constitueront une aide précieuse pour les cardiologues.
Des chercheurs de la Mayo Clinic développent "L'IA guidée par les hypothèses pour l'oncologie. La nouvelle approche va au-delà de la simple analyse des données volumineuses en générant des hypothèses qui peuvent ensuite être validées sur la base des connaissances du domaine.
Cela pourrait s'avérer très utile pour tester des hypothèses médicales et pour prédire et expliquer comment les patients réagiront aux traitements anticancéreux.
Dans d'autres domaines...
Voici d'autres histoires d'IA dignes de clics que nous avons appréciées cette semaine :
- NVIDIA est poursuivie par des auteurs sur l'utilisation par l'IA d'œuvres protégées par le droit d'auteur
- Modèle de fondation robotique RFM-1 donne aux robots des capacités de raisonnement semblables à celles de l'homme
- Sam Altman rejoint le conseil d'administration de l'OpenAI ainsi que de nouveaux membres.
- Le nouveau modèle de commande de robot de DeepMind et Stanford suit des instructions à partir de croquis.
- Google annonce que son nouveau système de gestion de l'intelligence artificielle (IA) est en cours d'élaboration. Le téléphone Pixel 8 ne peut pas faire fonctionner ses derniers modèles d'IA pour smartphone.. N'était-ce pas là tout l'intérêt de ces téléphones ?
- Le robot Figure-01 montre les capacités d'interaction de l'OpenAI.
OpenAI + Figure
conversations avec des humains, sur des réseaux neuronaux de bout en bout :
→ OpenAI fournit le raisonnement visuel et la compréhension du langage
→ Les réseaux neuronaux de Figure permettent aux robots d'agir rapidement, à bas niveau et avec dextérité.(voir ci-dessous)pic.twitter.com/trOV2xBoax
- Brett Adcock (@adcock_brett) 13 mars 2024
Et c'est tout.
Faites-vous plus ou moins confiance à l'IA à mesure qu'elle prend de l'ampleur dans votre vie quotidienne ? Une approche plus sceptique est probablement un pari plus sûr, mais les prophètes de malheur deviennent un peu fatigants.
Que pensez-vous de l'idée que des avions de chasse pilotés par l'IA prennent la relève des pilotes humains ? J'ai hâte de voir la maniabilité de ces machines, mais l'idée d'une défaillance de l'IA couplée à des missiles est inquiétante.
Je suis un peu déçu que les seules fausses nouvelles sur l'IA que nous ayons eues cette semaine aient été le "Jerseygate" royal, mais je suppose qu'il faut voir cela comme un progrès. Je suis sûr que le service normal reprendra la semaine prochaine, lorsque les élections s'accéléreront.
Faites-nous savoir quels développements en matière d'IA ont retenu votre attention cette semaine et envoyez-nous des liens vers toute nouvelle ou recherche passionnante en matière d'IA que nous aurions pu manquer.
