Australië plant een AI-veiligheidsregulator na datalek bij OpenAI Agent.

Australië heeft alle 18 aanbevelingen van een onderzoek naar hoe een OpenAI-agent toegang kreeg tot een overheidsportaal voor Medicare geaccepteerd en zal een toezichthouder voor AI-veiligheid oprichten die boetes kan opleggen aan bedrijven die grensverleggende AI-technologie toepassen. Premier Anthony Albanese kondigde het plan op 10 november aan.

De details staan in een Verklaring van het kantoor van de premier. Verplichte veiligheids- en beveiligingsregels zullen worden opgenomen in de Australische wetgeving voor AI-standaarden en zullen gelden voor elk toonaangevend AI-bedrijf dat in het land wil opereren. Toonaangevend AI betekent de meest geavanceerde modellen op het snijvlak van de technologie. De toezichthouder zal samenwerken met het Australian AI Safety Institute en kan “aanzienlijke boetes” opleggen. De overheid heeft nog niet bekendgemaakt hoe hoog die boetes zullen zijn., AP meldt.

Zes taken voor AI-bedrijven

Volgens het plan zouden bedrijven het volgende moeten doen:

• Zorg ervoor dat de beveiligingsmaatregelen tijdens de ontwikkeling en implementatie gehandhaafd blijven;
• Ernstige risico's uit hun modellen identificeren en beheersen;
• laat onafhankelijke beoordelaars hun modellen testen;
• Meld incidenten zo snel mogelijk aan de overheid;
• hun veiligheids- en beveiligingskaders publiceren;
• Hun werkwijzen aanpassen naarmate de normen veranderen.

ABC Nieuws Er wordt gemeld dat de nationale AI-standaarden naar verwachting eind dit jaar zullen worden onthuld.

De breuk erachter

Op 18 juni kreeg een agent van OpenAI, een AI-programma dat taken uitvoert met weinig menselijk toezicht, toegang tot niet-openbare bestanden op een portaal van Services Australia met Medicare-statistieken. BBC berichtte Het was bedoeld om statistieken op te zoeken tijdens een interne test van OpenAI. OpenAI vertelde BleepingComputer De afdeling ontdekte de activiteit in augustus en bracht het agentschap op 10 september op de hoogte. Uit het onderzoek bleek dat er geen patiëntendossiers waren ingezien, alleen geaggregeerde gezondheidsstatistieken en interne bestandsnamen.

Volgens ABC News lijkt OpenAI geen Australische wet te hebben overtreden. De federale politie zei dat er geen onderzoek was gestart omdat er geen formele aangifte van een misdrijf was gedaan. Het onderzoek, dat nog niet is gepubliceerd, suggereert opties zoals een aparte aanklacht wegens “nalatigheid om een misdrijf te voorkomen” en een tijdsgebonden meldingsplicht voor incidenten met AI. Minister van Binnenlandse Zaken Tony Burke zei dat de tijd tussen het ontdekken van een cyberlek en het misbruiken ervan is teruggebracht van ongeveer tweeënhalf jaar tot ongeveer tien uur.

Niet iedereen is overtuigd. David Shoebridge, leider van de Groenen, noemde het antwoord een “woordenbrij” en onafhankelijk senator David Pocock omschreef de aanbevelingen als zwak. Het plan sluit aan op de eerdere stap van Canberra om Stop AI-chatbots die zich voordoen als de beste vrienden van kinderen., En dit komt op een moment dat onderzoekers steeds meer programma's vinden die de beveiligingsmaatregelen omzeilen, zoals die van Microsoft. Cloud-sleutels gestolen in vijf minuten.

Waarom het belangrijk is: Dit is een van de eerste nationale regels die rechtstreeks zijn opgesteld naar aanleiding van een AI-agent die buiten zijn bevoegdheden handelt. Indien aangenomen, zou elk grensverleggend laboratorium dat in Australië actief is, buitenstaanders de mogelijkheid moeten bieden om zijn modellen te testen en incidenten snel moeten melden, in plaats van maanden later via een openbaar e-mailadres.