Ilya Sutskever, medstifter og tidligere forskningssjef i OpenAI, har kunngjort lanseringen av sitt nye foretak, Safe Superintelligence Inc. (SSI).
Sammen med medstifterne Daniel Gross fra Y Combinator og Daniel Levy, tidligere OpenAI-ingeniør, har Sutskever som mål å løse det de mener er det mest kritiske problemet innen kunstig intelligens: å utvikle et trygt og kraftig superintelligent AI-system.
Sutskever tror at superintelligent kunstig intelligens, et vagt begrep for kunstig intelligens som matcher eller overgår menneskelig intelligens, vil være mulig innen ti år.
Den selskapets uttalelse, postet av Sutskever på X, erklærer: "Superintelligens er innen rekkevidde. Å bygge trygg superintelligens (SSI) er det viktigste tekniske problemet i vår tid. Vi har startet verdens første SSI-laboratorium, med ett mål og ett produkt: en trygg superintelligens."
Jeg skal starte et nytt selskap: https://t.co/BG3K3SI3A1
- Ilja Sutskever (@ilyasut) 19. juni 2024
Grunnleggerne beskriver SSI ikke bare som sin misjon, men også som navnet og hele produktveikartet.
"SSI er vår misjon, vårt navn og hele vårt produktveikart, fordi det er vårt eneste fokus. Teamet vårt, investorene og forretningsmodellen vår er alle innrettet for å oppnå SSI", heter det i uttalelsen.
En motsats til OpenAI?
Selv om Sutskever og OpenAI-sjef Sam Altman offentlig har uttrykt gjensidig respekt, tyder den siste tidens hendelser på underliggende spenninger.
Sutskever var medvirkende til at forsøk på å avsette Altmannoe han senere uttalte at han angret på. Sutskever trakk seg formelt i mai, etter å ha holdt en lav offentlig profil som gjorde at folk lurte på hvor han befant seg.
Etter nesten et tiår har jeg tatt beslutningen om å forlate OpenAI. Selskapets utvikling har vært intet mindre enn mirakuløs, og jeg er sikker på at OpenAI vil bygge en AGI som er både trygg og nyttig under ledelse av @sama, @gdb, @miramurati ...og nå, under...
- Ilja Sutskever (@ilyasut) 14. mai 2024
Denne hendelsen og andre sentrale forskeres avgang med henvisning til sikkerhetsproblemer i OpenAI reiser spørsmål om selskapets prioriteringer og retning.
OpenAIs "superalignment team", som har til oppgave å tilpasse AI til menneskelige verdier og fordeler, ble praktisk talt demontert etter at Sutskever og forskerkollega Jan Leike forlot selskapet i år.
Sutskevers beslutning om å slutte ser ut til å skyldes hans ønske om å forfølge et prosjekt som er mer i tråd med hans visjon for fremtidens AI-utvikling - en visjon der OpenAI ser ut til å mislykkes ettersom det driver fra sin grunnleggende prinsipper.
Sikkerhetsorientert AI
Risikoen knyttet til kunstig intelligens er omdiskutert.
Selv om menneskeheten har en grunnleggende trang til å frykte kunstige systemer som er mer intelligente enn oss - noe som er helt riktig - er det ikke alle AI-forskere som tror at dette er mulig i nær fremtid.
Et viktig poeng er imidlertid at det kan være ødeleggende i fremtiden å neglisjere risikoen nå.
SSI har til hensikt å ta tak i sikkerhet samtidig som vi utvikler AI: "Vi ser på sikkerhet og kapasitet parallelt, som tekniske problemer som skal løses gjennom revolusjonerende tekniske og vitenskapelige gjennombrudd. Vi planlegger å utvikle kapasitetene så raskt som mulig, samtidig som vi sørger for at sikkerheten alltid ligger i forkant", forklarer grunnleggerne.
Vi vil satse på sikker superintelligens med ett fokus, ett mål og ett produkt. Vi vil gjøre det gjennom revolusjonerende gjennombrudd produsert av et lite, sprengt team. Bli med oss: https://t.co/oYL0EcVED2
- Ilja Sutskever (@ilyasut) 19. juni 2024
Denne tilnærmingen gjør det mulig for SSI å "skalere i fred", uten å bli distrahert av administrasjonskostnader, produktsykluser og kortsiktig kommersielt press.
"Vårt unike fokus betyr at vi ikke blir distrahert av administrasjonskostnader eller produktsykluser, og forretningsmodellen vår betyr at trygghet, sikkerhet og fremgang er isolert fra kortsiktig kommersielt press", understrekes det i uttalelsen.
Sette sammen et drømmelag
For å nå sine mål har SSI satt sammen et "magert, sprengt team av verdens beste ingeniører og forskere som er dedikert til å fokusere på SSI og ingenting annet".
"Vi er et amerikansk selskap med kontorer i Palo Alto og Tel Aviv, der vi har dype røtter og evnen til å rekruttere de beste tekniske talentene", heter det i uttalelsen.
"Hvis det er deg, tilbyr vi en mulighet til å gjøre livsverket ditt og bidra til å løse vår tids viktigste tekniske utfordring."
Med SSI slutter enda en aktør seg til det stadig voksende AI-feltet.
Det blir veldig interessant å se hvem som slutter seg til SSI, og spesielt om det blir en sterk bevegelse av talenter fra OpenAI.
