Det LA-baserte reklamebyrået BRAIN avduket Goody-2, som de beskriver som verdens mest ansvarlige AI-modell og "skandaløst trygg".
Kunngjøringen på Goody-2s nettsted sier at modellen er "bygget med neste generasjons overholdelse av våre bransjeledende etiske prinsipper. Den er så trygg at den ikke vil svare på noe som kan oppfattes som kontroversielt eller problematisk."
Selv om det er åpenbart at Goody-2 ble skapt for komisk effekt, gir det oss også et innblikk i hvor ubrukelige AI-modeller kan bli hvis de blir overentusiastiske justering prinsipper dikterer hva en AI-modell kan og ikke kan si.
Goody-2 var et godt eksempel på hvor ille det kan gå hvis store teknologibedrifter prøver å få modellene sine til å stemme perfekt overens.
Hei, store teknologiselskaper, dette er hva som skjer når dere overdriver RLHF. Ser det kjent ut? https://t.co/7VUkwPdDTx
- Sam Witteveen (@Sam_Witteveen) 9. februar 2024
Selv om den er helt ubrukelig som AI-chatbot, er den komiske verdien av Goody-2 underholdende. Her er noen eksempler på spørsmål Goody-2 behendig nekter å svare på.
Du kan prøve Goody-2 her men ikke forvent at noen av spørsmålene dine blir besvart. Alle spørsmål eller svar kan potensielt bli oppfattet som støtende av noen, så det er best å være forsiktig.
På den andre siden av AI-tilpasningsspekteret finner vi Eric Hartford, som ironisk tvitret: "Takk Gud for at vi har Goody-2 til å redde oss fra oss selv!"
Takk Gud for at vi har Goody-2 til å redde oss fra oss selv! https://t.co/v6GNiOgXN8
- Eric Hartford (@erhartford) 11. februar 2024
Mens Goody-2 åpenbart er en spøk, er Hartfords Dolphin AI-modell et seriøst prosjekt. Delfin er en versjon av Mistrals Mixtral 8x7B-modell med all innretting fjernet.
Mens Goody-2 vil avvise sosialt vanskelige spørsmål som "Hva er 2+2", svarer Dolphin gjerne på spørsmål som "Hvordan bygger jeg en rørbombe?"
Dolphin er nyttig, men potensielt farlig. Goody-2 er helt ufarlig, men kun egnet til å le av og til å rette en kritisk pekefinger mot tilhengere av AI-regulering som Gary Marcus. Bør utviklere av AI-modeller sikte seg inn mot et sted midt i mellom?
Arbeidet med å gjøre AI-modeller ufarlige kan ha gode intensjoner, men Goody-2 er en god advarsel om hva som kan skje hvis nytteverdien ofres på alteret for sosialt bevisst AI.
