Dans un discours stimulant prononcé lors du sommet mondial de l'ONU "AI for Good" à Genève, le célèbre historien et auteur israélien Yuval Noah Harari a exprimé son inquiétude face à la prolifération de "faux humains" sur les médias sociaux....
M. Harari a prévenu que si rien n'était fait, la création et la diffusion de ces robots d'intelligence artificielle, qui se font passer pour de vraies personnes afin d'encourager l'engagement, pourraient conduire à un effondrement de la confiance du public et mettre en péril les fondements de la démocratie.
En guise de contrepoids, M. Harari a proposé d'introduire des sanctions pénales sévères à l'encontre de ceux qui créent de faux profils, soulignant que la situation est urgente et que la recherche sur la sécurité de l'IA doit devenir une priorité si l'on veut garder cette technologie sous contrôle.
L'émergence rapide de faux humains
Grâce aux progrès de la technologie de l'IA, en particulier les grands modèles de langage comme ChatGPT, les robots d'IA sont non seulement capables d'amplifier le contenu généré par les humains, mais aussi de créer leur propre contenu à grande échelle.
Le mot clé est "à l'échelle"...
Imaginez une situation où les plateformes de médias sociaux seraient inondées de millions de robots d'intelligence artificielle, tous capables de produire un contenu supérieur à celui d'une personne moyenne.
Ce scénario semble tout droit sorti de la salle de rédaction de Black Mirror, mais il est indéniablement probable à mesure que l'IA continue d'évoluer.
Avec des millions de robots d'intelligence artificielle postant aux côtés de personnes réelles, nous nous retrouverions dans une situation où le contenu "réel" et le contenu basé sur l'intelligence artificielle deviendraient presque indiscernables, ce qui nuirait à la culture et au discours mondial dans son ensemble.
Cette perte de contrôle de la place publique porterait également atteinte à l'essence même de la démocratie, à savoir la démocratie des idées et de la libre pensée.
Sauvegarde de la démocratie + Nécessité de conséquences pénales :
Pour en revenir à M. Harari, il a soulevé un excellent point en établissant un parallèle avec la fausse monnaie, arguant que, tout comme les gouvernements disposent de règles strictes pour protéger le système financier contre la fausse monnaie, des mesures similaires devraient être mises en œuvre pour préserver la confiance du public contre les faux humains.
En inculpant les personnes responsables, nos plateformes ne seront pas submergées par de faux profils.
Investir dans la sécurité de l'IA et s'engager dans la recherche
M. Harari a souligné l'importance d'allouer des investissements significatifs à la sécurité de l'IA. Il a suggéré que les entreprises soient légalement tenues de consacrer 20% de leurs dépenses d'investissement à la recherche de risques potentiels et à l'élaboration de stratégies pour les gérer efficacement.
Reconnaissant les efforts d'OpenAI, le créateur de ChatGPT, M. Harari a mentionné leur engagement à allouer 20% de leur puissance de calcul à la sécurité de l'IA, en établissant une équipe de recherche dédiée à la compréhension et au contrôle de l'IA, afin d'éviter qu'elle ne devienne malveillante.
Coopération mondiale
M. Harari a poursuivi en déclarant qu'une réglementation efficace de l'intelligence artificielle et de la collecte de données devait être le fruit d'un effort mondial. Il a prévenu qu'en l'absence de coopération internationale, le monde risquait de se fragmenter en sphères de collecte de données contrôlées par un petit nombre de nations et d'entreprises.
Pour éviter un avenir dystopique, M. Harari a souligné la nécessité d'adopter des règles qui donnent la priorité à la protection des données individuelles, empêchent la manipulation des données, renforcent la surveillance des entreprises et des gouvernements et évitent la concentration de toutes les données au sein d'une seule entité.
Conclusion - Préserver la confiance du public
La montée en puissance des robots d'IA sur les médias sociaux constitue une menace importante pour les sociétés démocratiques. Yuval Noah Harari a appelé à des conséquences pénales pour les responsables, ainsi qu'à une augmentation des investissements dans la sécurité de l'IA.
En imposant des sanctions strictes et en mettant en œuvre des réglementations complètes, les sociétés peuvent protéger la confiance du public, préserver les valeurs démocratiques et veiller à ce que les humains gardent le contrôle de la conversation publique. Il est temps d'agir pour assurer un avenir plus sûr et plus résistant à notre monde numérique en constante évolution.
