Det amerikanske handelsministerium udstedte en politik, der støtter åbne modeller, som et tegn på Biden-Harris-regeringens syn på det omstridte spørgsmål.
Tilhængere af lukkede modeller som OpenAI og Google taler om risikoen ved åbne modeller, mens andre som Meta går ind for variationer af open source AI.
DOC-rapporten som er udarbejdet af National Telecommunications and Information Administration (NTIA), omfavner "åbenhed inden for kunstig intelligens (AI) og opfordrer samtidig til aktiv overvågning af risici i kraftfulde AI-modeller."
Argumenterne mod åbent at frigive modeller peger generelt på risikoen for dobbelt anvendelse, hvor dårlige aktører kan bøje modellerne efter deres forbryderiske vilje. Politikken anerkender risikoen for dobbelt anvendelse, men siger, at fordelene opvejer risiciene.
"Biden-Harris-administrationen trækker i alle håndtag for at maksimere løftet om AI og samtidig minimere risiciene", sagde USA's handelsminister Gina Raimondo.
"Dagens rapport giver en køreplan for ansvarlig AI-innovation og amerikansk lederskab ved at omfavne åbenhed og anbefale, hvordan den amerikanske regering kan forberede sig på og tilpasse sig de potentielle udfordringer, der ligger forude."
Rapporten siger, at den amerikanske regering aktivt bør overvåge potentielle nye risici, men bør afholde sig fra at begrænse tilgængeligheden af åbne vægtmodeller.
Åbne vægte åbner døre
Alle kan downloade Metas seneste Llama 3.1 405B model og dens vægte. Selv om træningsdataene ikke er blevet gjort tilgængelige, giver vægtene brugerne mange flere muligheder, end de ville have haft med GPT-4o eller Claude 3.5 Sonnet for eksempel.
Adgang til vægtene giver forskere og udviklere mulighed for at få et bedre overblik over, hvad der sker under motorhjelmen, og identificere og rette op på skævheder, fejl eller uventet adfærd i modellen.
Det gør det også meget lettere for brugerne at finjustere modellerne til specifikke brugssituationer, enten gode eller dårlige.
Rapporten bemærker, at "tilgængeligheden af åbne vægte sænker adgangsbarrieren betydeligt for at finjustere modeller til både gavnlige og skadelige formål. Ondsindede aktører kan fjerne sikkerhedsforanstaltninger fra åbne modeller via finjustering og derefter frit distribuere modellen, hvilket i sidste ende begrænser værdien af afhjælpningsteknikker."
Rapporten fremhæver bl.a. risici og fordele ved åbne AI-modeller:
- Offentlig sikkerhed
- Geopolitiske overvejelser
- Samfundsmæssige spørgsmål
- Konkurrence, innovation og forskning
Rapporten anerkender åbent risiciene på hvert af disse områder, men siger, at fordelene opvejer dem, hvis risiciene styres.
Med en lukket model som GPT-4o er vi alle nødt til at stole på, at OpenAI gør et godt stykke arbejde med sin tilpasningsindsats og ikke skjuler potentielle risici. Med en åben vægtmodel kan enhver forsker identificere sikkerhedsproblemer i en model eller udføre en tredjepartsrevision for at sikre, at modellen overholder reglerne.
Rapporten siger, at "tilgængeligheden af modelvægte kan gøre det muligt for lande, der giver anledning til bekymring, at udvikle mere robuste avancerede AI-økosystemer ... og undergrave målene for Amerikanske chip-kontroller."
På plussiden står dog, at det at stille modelvægte til rådighed "kan styrke samarbejdet med allierede og uddybe nye relationer med udviklingspartnere."
Den amerikanske regering er helt klart tilhænger af ideen om åbne AI-modeller, selv om den indfører føderale og statslige regler for at mindske risikoen ved teknologien. Hvis den Trump-Vance team vinder næste valg, vil vi sandsynligvis se fortsat støtte til åben AI, men med endnu mindre regulering.
Åbne vægtmodeller kan være gode til innovation, men hvis nye risici overrasker tilsynsmyndighederne, kan man ikke putte AI-ånden tilbage i flasken.
