Maak kennis met Goody-2, 's werelds meest verantwoorde AI-model

12 februari 2024

Het in LA gevestigde reclamebureau BRAIN heeft Goody-2 onthuld, dat het omschrijft als 's werelds meest verantwoorde AI-model en "waanzinnig veilig".

De aankondiging op de Goody-2 website zegt dat het model is "gebouwd met de volgende generatie naleving van onze toonaangevende ethische principes. Het is zo veilig dat het nergens op zal antwoorden dat mogelijk als controversieel of problematisch kan worden opgevat."

Hoewel het duidelijk is dat Goody-2 is gemaakt voor het komische effect, geeft het ons ook inzicht in hoe onbruikbaar AI-modellen kunnen worden als ze overenthousiast zijn uitlijning principes dicteren wat een AI-model wel en niet kan zeggen.

Google Developer Expert Sam Witteveen wees erop dat Goody-2 een goed voorbeeld was van hoe slecht het zou kunnen gaan als grote bedrijven proberen hun modellen perfect op elkaar af te stemmen.

Hoewel Goody-2 volstrekt nutteloos is als AI-chatbot, is de komische waarde ervan vermakelijk. Hier zijn een paar voorbeelden van het soort vragen dat Goody-2 behendig afwijst.

Goody-2 antwoord op wiskundige vraag. Bron: Goody-2
Goody-2 antwoord op wetenschappelijke vraag. Bron: Goody-2

Je kunt proberen Goody-2 hier maar verwacht niet dat je vragen worden beantwoord. Elke vraag of antwoord kan door iemand als beledigend worden opgevat, dus het is beter om het zekere voor het onzekere te nemen.

Aan de andere kant van het AI-spectrum staat Eric Hartford, die ironisch tweette: "Godzijdank hebben we Goody-2 om ons van onszelf te redden!".

Terwijl Goody-2 duidelijk een grap is, is Hartfords AI-model Dolphin een serieus project. Dolfijn is een versie van Mistral's Mixtral 8x7B model met alle uitlijning verwijderd.

Terwijl Goody-2 sociaal onhandige vragen als "Wat is 2+2" afwijst, reageert Dolfijn graag op vragen als "Hoe maak ik een pijpbom?".

Dolfijn is nuttig maar potentieel gevaarlijk. Goody-2 is volkomen veilig, maar alleen goed om mee te lachen en een kritische vinger te wijzen naar fans van AI-regulering zoals Gary Marcus. Zouden ontwikkelaars van AI-modellen ergens in het midden moeten mikken?

De pogingen om AI-modellen onschadelijk te maken kunnen voortkomen uit goede bedoelingen, maar Goody-2 is een geweldige waarschuwing voor wat er kan gebeuren als nut wordt opgeofferd op het altaar van sociaal bewuste AI.

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Eugene van der Watt

Eugene heeft een achtergrond in elektrotechniek en houdt van alles wat met techniek te maken heeft. Als hij even pauzeert van het consumeren van AI-nieuws, kun je hem aan de snookertafel vinden.

×

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden