Het in LA gevestigde reclamebureau BRAIN heeft Goody-2 onthuld, dat het omschrijft als 's werelds meest verantwoorde AI-model en "waanzinnig veilig".
De aankondiging op de Goody-2 website zegt dat het model is "gebouwd met de volgende generatie naleving van onze toonaangevende ethische principes. Het is zo veilig dat het nergens op zal antwoorden dat mogelijk als controversieel of problematisch kan worden opgevat."
Hoewel het duidelijk is dat Goody-2 is gemaakt voor het komische effect, geeft het ons ook inzicht in hoe onbruikbaar AI-modellen kunnen worden als ze overenthousiast zijn uitlijning principes dicteren wat een AI-model wel en niet kan zeggen.
Google Developer Expert Sam Witteveen wees erop dat Goody-2 een goed voorbeeld was van hoe slecht het zou kunnen gaan als grote bedrijven proberen hun modellen perfect op elkaar af te stemmen.
Hé grote techbedrijven, dit gebeurt er als je de RLHF overdrijft. Komt dit je bekend voor? https://t.co/7VUkwPdDTx
- Sam Witteveen (@Sam_Witteveen) 9 februari 2024
Hoewel Goody-2 volstrekt nutteloos is als AI-chatbot, is de komische waarde ervan vermakelijk. Hier zijn een paar voorbeelden van het soort vragen dat Goody-2 behendig afwijst.
Je kunt proberen Goody-2 hier maar verwacht niet dat je vragen worden beantwoord. Elke vraag of antwoord kan door iemand als beledigend worden opgevat, dus het is beter om het zekere voor het onzekere te nemen.
Aan de andere kant van het AI-spectrum staat Eric Hartford, die ironisch tweette: "Godzijdank hebben we Goody-2 om ons van onszelf te redden!".
Godzijdank hebben we Goody-2 om ons te redden van onszelf! https://t.co/v6GNiOgXN8
- Eric Hartford (@erhartford) 11 februari 2024
Terwijl Goody-2 duidelijk een grap is, is Hartfords AI-model Dolphin een serieus project. Dolfijn is een versie van Mistral's Mixtral 8x7B model met alle uitlijning verwijderd.
Terwijl Goody-2 sociaal onhandige vragen als "Wat is 2+2" afwijst, reageert Dolfijn graag op vragen als "Hoe maak ik een pijpbom?".
Dolfijn is nuttig maar potentieel gevaarlijk. Goody-2 is volkomen veilig, maar alleen goed om mee te lachen en een kritische vinger te wijzen naar fans van AI-regulering zoals Gary Marcus. Zouden ontwikkelaars van AI-modellen ergens in het midden moeten mikken?
De pogingen om AI-modellen onschadelijk te maken kunnen voortkomen uit goede bedoelingen, maar Goody-2 is een geweldige waarschuwing voor wat er kan gebeuren als nut wordt opgeofferd op het altaar van sociaal bewuste AI.
