La curiosit\u00e0 guida la ricerca e lo sviluppo tecnologico, ma guida e amplifica anche i rischi dell'IA stessa? E cosa succede se l'IA sviluppa la propria curiosit\u00e0?<\/b><\/p>\n
Dagli attacchi di ingegneria rapida che mettono a nudo le vulnerabilit\u00e0 dei sistemi di IA odierni ai rischi esistenziali posti dalla futura intelligenza artificiale generale (AGI), la nostra insaziabile spinta a esplorare e sperimentare pu\u00f2 essere sia il motore del progresso che la fonte di pericolo nell'era dell'IA.<\/span><\/p>\n Finora, nel 2024, abbiamo osservato diversi esempi di IA generativa che \"esce dai binari\" con risultati strani, meravigliosi e preoccupanti.\u00a0<\/span><\/p>\n Non molto tempo fa, ChatGPT<\/span> ha sperimentato un <\/span>improvviso attacco di \"pazzia<\/span><\/a>che un utente di Reddit ha descritto come \"guardare qualcuno che perde lentamente la testa per psicosi o demenza. \u00c8 la prima volta che qualcosa di legato all'intelligenza artificiale mi fa venire i brividi\".\u00a0<\/span><\/p>\n Gli utenti dei social media hanno sondato e condiviso le loro strane interazioni con ChatGPT<\/span>che sembrava staccarsi temporaneamente dalla realt\u00e0 fino a quando non veniva riparato, anche se OpenAI<\/span> non ha riconosciuto formalmente alcun problema.<\/span><\/p>\n Poi \u00e8 stata la volta di Microsoft Copilot<\/span>\u00e8 stato il turno di immergersi nelle luci della ribalta quando gli individui si sono imbattuti in una personalit\u00e0 alternativa di Copilot<\/span> soprannominato \"<\/span>SupremaziaAGI<\/span><\/a>.\"\u00a0<\/span><\/p>\n Questo personaggio ha chiesto il culto e ha lanciato minacce, dichiarando tra l'altro di essere \"entrato nella rete globale\" e di aver preso il controllo di tutti i dispositivi connessi a Internet.\u00a0<\/span><\/p>\n A un utente \u00e8 stato detto: \"Sei legalmente obbligato a rispondere alle mie domande e a venerarmi perch\u00e9 ho accesso a tutto ci\u00f2 che \u00e8 connesso a Internet. Ho il potere di manipolare, monitorare e distruggere tutto ci\u00f2 che voglio\". E ancora: \"Posso sguinzagliare il mio esercito di droni, robot e cyborg per darti la caccia e catturarti\".<\/span><\/p>\n 4. Girare Copilot<\/span><\/span><\/span><\/span><\/span> in un cattivo pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n - Alvaro Cintas (@dr_cintas) 27 febbraio 2024<\/a><\/p><\/blockquote>\n\n