Clearview AI tillhandahåller tjänster för ansiktsigenkänning till brottsbekämpande myndigheter och andra statliga organ, men en nederländsk datavakthund säger att dess databas med 30 miljarder bilder byggdes upp olagligt.
Den nederländska dataskyddsmyndigheten (DPA) säger att Clearview hämtade bilder på människor från internet och använde dem utan deras samtycke. Europeiska GDPR-regler skyddar EU-medborgarnas integritet starkt, och DPA har bötfällt Clearview med drygt $33 miljoner för detta påstådda brott.
DPA säger att "Clearview har byggt upp en olaglig databas med miljarder foton av ansikten, inklusive av nederländska personer. Det nederländska datainspektionen varnar för att det också är förbjudet att använda Clearviews tjänster."
Medan EU:s tillsynsmyndigheter inte är några fans av AI-baserad ansiktsigenkänningClearview säger att de tillhandahåller sina tjänster till de "goda" och gynnar samhället. På företagets webbplats står det "Clearview AI:s utredningsplattform gör det möjligt för brottsbekämpande myndigheter att snabbt generera ledtrådar för att identifiera misstänkta, vittnen och offer för att avsluta ärenden snabbare och hålla samhällen säkra."
DPA anser inte att ändamålet helgar medlen. Den nederländska DPA-ordföranden Aleid Wolfsen säger: "Ansiktsigenkänning är en mycket påträngande teknik som du inte bara kan släppa lös på vem som helst i världen.
Om det finns ett foto av dig på Internet - och gäller inte det oss alla? - så kan du hamna i Clearviews databas och bli spårad. Det här är inte ett undergångsscenario från en skräckfilm. Inte heller är det något som bara kan göras i Kina."
I ett uttalande som skickades till The Register sade Jack Mulcaire, Chief Legal Officer på Clearview AI: "Clearview AI har inget säte i Nederländerna eller EU, har inga kunder i Nederländerna eller EU och bedriver ingen verksamhet som på något annat sätt skulle innebära att företaget omfattas av GDPR. Detta beslut är olagligt, saknar vederbörlig process och är inte verkställbart."
Det är inte första gången som EU:s tillsynsmyndigheter stämmer Clearview, men eftersom företaget verkar utanför EU är det osannolikt att det kommer att ändra sig eller betala. Wolfsen säger att datainspektionen kan hitta andra sätt att hindra Clearview från att använda bilder på EU-medborgare i sin databas.
"Ett sådant företag kan inte fortsätta att kränka européers rättigheter och komma undan med det. Absolut inte på detta allvarliga sätt och i denna massiva skala. Vi kommer nu att undersöka om vi kan hålla ledningen för företaget personligen ansvarig och bötfälla dem för att ha lett dessa kränkningar", sade Wolfsen.
Den senaste arresteringen av Telegram CEO Pavel Durov visar att detta inte är ett tomt hot, och det är en fråga som kan påverka direktörer för andra AI-företag förutom Clearview.
Om AI-modeller tränas med hjälp av olagligt erhållna uppgifter eller används för att bryter mot EU:s reglerI år kan fler teknikchefer komma att hållas personligt ansvariga om de sätter sin fot i Europa. Elon Musk har redan antytt i ett X-inlägg nyligen att han kanske kommer att "begränsa rörelserna" till länder där yttrandefriheten är "grundlagsskyddad".
Den lätthet med vilken Grok skapar kontroversiella bilder och en lös reglering av innehåll på X kommer sannolikt inte att imponera på EU:s datavakthundar. Meta har också hållit tillbaka att släppa vissa av sina AI-produkter i EU på grund av potentiella regelbrott.
I förra veckan fick Uber böter av Datainspektionen för att ha brutit mot EU-reglerna genom att skicka personuppgifter om europeiska taxichaufförer till USA.
Clearview och andra USA-baserade företag hävdar att de inte omfattas av GDPR-reglerna, men deras styrelseledamöter kanske vill kontrollera sina resplaner om de planerar en resa till Europa.
