Clearview AI tilbyr ansiktsgjenkjenningstjenester til politimyndigheter og andre offentlige etater, men en nederlandsk datavakthund sier at databasen med 30 milliarder bilder ble bygget opp ulovlig.
Det nederlandske datatilsynet (DPA) sier at Clearview har hentet bilder av mennesker fra Internett og brukt dem uten deres samtykke. Europeiske GDPR-regler er svært opptatt av å beskytte EU-borgernes personvern, og Datatilsynet har ilagt Clearview en bot på drøyt $33 millioner kroner for dette påståtte bruddet.
Datatilsynet sier at "Clearview har bygget opp en ulovlig database med milliarder av bilder av ansikter, inkludert av nederlendere. Det nederlandske datatilsynet advarer om at det også er forbudt å bruke tjenestene til Clearview."
Selv om EUs reguleringsmyndigheter ikke er tilhengere av AI-drevet ansiktsgjenkjenningClearview sier at de tilbyr sine tjenester til "de gode" og kommer samfunnet til gode. På selskapets nettsted står det at "Clearview AIs etterforskningsplattform gjør det mulig for politimyndigheter å raskt generere ledetråder for å identifisere mistenkte, vitner og ofre, slik at sakene kan avsluttes raskere og samfunnet holdes trygt."
Datatilsynet mener ikke at målet helliger middelet. Aleid Wolfsen, styreleder i det nederlandske datatilsynet, sier: "Ansiktsgjenkjenning er en svært inngripende teknologi som man ikke uten videre kan slippe løs på hvem som helst i verden.
Hvis det finnes et bilde av deg på Internett - og gjelder ikke det oss alle? - så kan du havne i databasen til Clearview og bli sporet. Dette er ikke et dommedagsscenario fra en skrekkfilm. Det er heller ikke noe som bare kan gjøres i Kina."
I en uttalelse sendt til The Register sier Jack Mulcaire, Chief Legal Officer i Clearview AI: "Clearview AI har ikke noe forretningssted i Nederland eller EU, selskapet har ingen kunder i Nederland eller EU, og driver ingen aktiviteter som ellers ville bety at det er underlagt GDPR. Denne avgjørelsen er ulovlig, mangler rettssikkerhet og kan ikke håndheves."
Dette er ikke første gang EUs tilsynsmyndigheter har saksøkt Clearview, men det er lite sannsynlig at selskapet vil endre kurs eller betale, siden det opererer utenfor EU. Wolfsen sier at Datatilsynet kan finne andre måter å hindre Clearview i å bruke bilder av EU-borgere i sin database.
"Et slikt selskap kan ikke fortsette å krenke europeernes rettigheter og slippe unna med det. I hvert fall ikke på en så alvorlig måte og i et så stort omfang. Vi kommer nå til å undersøke om vi kan holde ledelsen i selskapet personlig ansvarlig og bøtelegge dem for å ha regissert disse krenkelsene," sier Wolfsen.
Den nylige arrestasjonen av Telegram-sjef Pavel Durov viser at dette ikke er en uaktuell trussel, og det er et problem som kan påvirke direktører i andre AI-selskaper enn Clearview.
Hvis AI-modeller læres opp ved hjelp av ulovlig innhentet data eller brukes til bryter med EUs reglerkan flere teknologisjefer bli holdt personlig ansvarlige hvis de setter sin fot i Europa. Elon Musk har allerede antydet i et nylig X-innlegg at han kan komme til å "begrense sine bevegelser" til land der ytringsfriheten er "grunnlovsbeskyttet".
Den enkle måten Grok skaper kontroversielle bilder og løs innholdsregulering på X vil neppe imponere EUs datatilsyn. Meta har også holdt tilbake om å lansere noen av sine AI-produkter i EU på grunn av potensielle regelbrudd.
I forrige uke ble Uber bøtelagt av Datatilsynet for å ha brutt EU-reglene ved å sende personopplysninger om europeiske taxisjåfører til USA.
Clearview og andre USA-baserte selskaper hevder at de ikke er underlagt GDPR-reglene, men direktørene deres bør kanskje revurdere reiseplanene sine hvis de planlegger en reise til Europa.
