Dylan Field, CEO van Figma, kondigde aan dat zijn bedrijf de nieuwe AI-functies tijdelijk zou uitschakelen.
De beslissing komt na beschuldigingen dat de tool ontwerpen reproduceerde die opvallend veel leken op de Weather app van Apple, waardoor bezorgdheid ontstond over de vraag of Figma's trainingsgegevens auteursrechtelijk beschermde inhoud bevatten.
Als Figma's tools auteursrechtelijk beschermd materiaal bevatten, dan geldt dat ook voor de output. Dat kan gebruikers kwetsbaar maken voor juridische problemen.
Figma is een app voor collaboratief webdesign die onlangs AI-ondersteund functies op de recente Config-conferentie. Het integreert verschillende kant-en-klare AI-modellen in Figma's eigen systemen en biedt:
- AI-gegenereerde inhoud: Produceert relevante tekstinhoud direct in design mockups.
- AI-gestuurd herschrijven en vertalen: Past kopijlengte, toon en taal aan binnen ontwerpen.
- FigJam AI: Helpt complexe ideeën te visualiseren, feedback te sorteren en vervelende taken te automatiseren.
De controverse rond de Apple Weer-app begon toen Andy Allen, oprichter van NotBoring Software, ontdekte dat Figma's AI-tool consequent ontwerpen genereerde die leken op de Weer-app van Apple.
Heeft Allen gelijk? Kijk hieronder en ontdek het zelf.
Figma AI lijkt nogal zwaar getraind op bestaande apps.
Dit is een "weer-app" die gebruik maakt van de nieuwe functie Make Designs en de resultaten zijn in principe AppleWeer-app (links). Drie keer geprobeerd, hetzelfde resultaat. https://t.co/Ij20OpPCer pic.twitter.com/psFTV6daVD
- Andy Allen (@asallen) 1 juli 2024
Allen ging naar X om Figma te beschuldigen van het "zwaar" trainen van zijn tool op bestaande apps.
Hoewel Field de verantwoordelijkheid op zich nam voor de onoplettendheid, verklaarde hij ook dat het probleem waarschijnlijk het gevolg is van de kant-en-klare modellen van de app: "Met andere woorden, de beschuldigingen over datatraining in deze tweet zijn vals."
Dat is redelijk, maar wat is er gebeurd met due diligence? Is Figma niet bezig met de marketing van deze tool op basis van zijn nieuwe AI-functies en neemt Figma daarmee enige verantwoordelijkheid op zich voor zijn output?
Bovendien kan dit juridische risico's met zich meebrengen als makers onbewust auteursrechtelijk beschermde inhoud publiceren die met Figma is gemaakt.
Field zei dat hij de functie zou verwijderen om dit te onderzoeken: "Ik heb ons team gevraagd om de functie Make Design tijdelijk uit te schakelen totdat we er zeker van zijn dat we achter de uitvoer kunnen staan. De functie zal worden uitgeschakeld als ons team in de VS over een paar uur wakker wordt en we zullen de functie weer inschakelen als we het onderliggende ontwerpsysteem volledig hebben gecontroleerd."
(4) Ik heb ons team gevraagd om de functie Make Design tijdelijk uit te schakelen totdat we er zeker van zijn dat we achter de uitvoer kunnen staan. De functie wordt uitgeschakeld wanneer onze US Het team op de basis ontwaakt over een paar uur en we zullen het weer inschakelen als we een volledige QA hebben uitgevoerd op de...
- Dylan Field (@zoink) 2 juli 2024
Figma's AI-ontwerptools hebben al veel kritiek gekregen. Verlagen ze de drempel naar webontwerp en democratiseren ze vaardigheden, of riskeren ze de massaproductie van kwalitatief slechte apps met koekjesvorm?
De jury is er nog niet.
Of dit zal veel van het repetitieve werk bij het ontwerpen wegnemen en de lat hoger leggen, zodat er nieuwe interessante ideeën kunnen ontstaan, net zoals nieuwe gereedschappen dat altijd hebben gedaan.
Korpsen die niet in design investeren, zullen dat ook niet doen en de bedrijven die dat wel doen, zullen dat blijven doen. En de waarheid is dat er meestal zoveel...
- Dustin Karp (@digitdustin) 26 juni 2024
Dit speelt ook in op het bredere debat over auteursrecht en intellectueel eigendom in het AI-tijdperk.
Vorig jaar verscheen er een groot onderzoek van cognitiewetenschapper Dr. Gary Marcus en conceptkunstenaar Reid Southen, getiteld "Generatieve AI heeft een visueel plagiaatprobleem," onthulde het vermogen van AI-modellen zoals Midjourney en DALL-E 3 om afbeeldingen te produceren die sterk lijken op auteursrechtelijk beschermd materiaal - vergelijkbaar met Figma's tool.
Juridische uitdagingen nemen ook toeAuteurs en mediabedrijven hebben rechtszaken aangespannen tegen AI-bedrijven omdat ze zonder toestemming auteursrechtelijk beschermd materiaal zouden hebben gebruikt in hun trainingsgegevens.
Deze moeten nog worden opgelost, waardoor iedereen, van AI-ontwikkelaars tot ontwerpers, zich afvraagt wat auteursrecht vandaag de dag betekent.
