Politici zijn meestal de onbevoegde onderwerpen van deepfakes, maar burgemeester Eric Adams van NYC gebruikt deze AI-technologie om de inwoners van zijn stad te bereiken.
In een poging een breder publiek te bereiken, heeft Adams AI gebruikt om audio van zichzelf te maken in talen variërend van Jiddisch tot Mandarijn. De audio wordt vervolgens gebruikt om geautomatiseerde oproepen te doen naar de inwoners van de stad om hen te informeren over evenementen zoals banenmarkten en concerten.
Het praktische aspect van deze stap is duidelijk, maar het roept ook enkele ethische vragen op.
"Mensen houden me vaak aan op straat en zeggen: 'Ik wist niet dat jullie Mandarijn spraken, weet je? De oproepen die we gebruiken, we gebruiken verschillende talen om de diversiteit van de New Yorkers direct aan te spreken," zei Adams.
Het probleem is dat Adams deze talen niet spreekt en dat de beller niet weet dat de stem die hij hoort door AI is gegenereerd. Misleidt Adams zijn kiezers of is hij vindingrijk en efficiënt?
Albert Fox Cahn, uitvoerend directeur van het Surveillance Technology Oversight Project, is geen fan van het gebruik van AI door de burgemeester.
"Dit is zeer onethisch, vooral op kosten van de belastingbetaler. Het gebruik van AI om New Yorkers ervan te overtuigen dat hij talen spreekt die hij niet spreekt is zeer Orwelliaans. Ja, we hebben aankondigingen nodig in alle inheemse talen van de New Yorkers, maar de diepe vervalsingen zijn gewoon een griezelig ijdelheidsproject," zei Cahn.
Is het een beetje griezelig? De stad heeft een van de Spaanse telefoontjes geüpload naar YouTube, dus oordeel zelf.
Adams vindt dat het doel de middelen heiligt, maar geeft toe: "We moeten ons zorgen maken over misbruik, maar we willen wel dat het goed wordt gebruikt.
Er zijn ook politiek-ethische vragen die deze zet oproept. Zou een Spaanstalig persoon door Adams' noodoproep eerder geneigd zijn om op hem te stemmen als die persoon gelooft dat de burgemeester zijn taal spreekt?
Adams noemde de valse telefoontjes tijdens een persconferentie over de nieuwe Actieplan Kunstmatige Intelligentie.
Het actieplan bevat projecttijdlijnen en ambities voor een veilig gebruik van AI om de 8 miljoen inwoners van de stad effectiever van dienst te zijn.
"Ik ben er trots op een plan te introduceren dat een kritisch evenwicht zal vinden in de wereldwijde AI-discussie - een plan dat stedelijke instanties in staat stelt om technologieën in te zetten die levens kunnen verbeteren en tegelijkertijd bescherming bieden tegen technologieën die schade kunnen aanrichten", aldus Adams.
Een van de nieuwste voorbeelden van het gebruik van AI door de stad is de MyCity Chatbot die vragen beantwoordt over bedrijfsregistraties en regelgeving.
De vooruitstrevende AI-aanpak van Adams is prijzenswaardig, zij het met enkele twijfelachtige initiatieven zoals nep-robocalls.
Adams zei, "Is dit ethisch juist of fout? Ik heb één ding, ik moet een stad leiden en ik moet met mensen kunnen praten in talen die ze begrijpen ... tegen iedereen kan ik alleen maar ni hao zeggen."
