“Sora” van OpenAI: innovatie of misbruik?

OpenAI heeft de AI-wereld versteld doen staan met de onthulling van Sora, een tekst-naar-video model dat verbluffend realistische beelden kan creëren. Maar terwijl velen gefascineerd zijn door de mogelijkheden, waarschuwen anderen dat Sora een krachtig wapen kan worden in de handen van crypto-oplichters.

Sora kan, volgens de aankondiging van 15 februari, video’s van maximaal 60 seconden maken met gedetailleerde scènes, complexe cameravoering en meerdere personages met levendige emoties.

Een bedreiging voor de cryptowereld?

OpenAI benadrukt “verschillende belangrijke veiligheidsmaatregelen” te nemen voordat Sora beschikbaar wordt gesteld. Ze werken onder andere met “red teamers”, experts in desinformatie, haatdragende content en bias, die het model uitvoerig testen op misbruikmogelijkheden.

De getoonde video’s, gemaakt van tekstuele omschrijvingen van gewenste scènes, illustreren hoe het model begrijpt wat de gebruiker wil en hoe die elementen in de fysieke wereld bestaan. Het begrijpt ook taal grondig, waardoor het “overtuigende personages met levendige emoties” kan creëren.

Echter, waarschuwt OpenAI: “ondanks uitgebreid onderzoek en testen kunnen we niet alle nuttige of schadelijke toepassingen van onze technologie voorspellen.”

Toch is misbruik door cryptofraudeurs waarschijnlijk. Diepe nepvideo’s kunnen echte mensen en bedrijven nabootsen om frauduleuze cryptoprojecten te promoten.

Ook valse celebrity-aanbevelingen voor web3 en crypto zijn mogelijk. De getoonde video’s waren al zo overtuigend dat podcaster Lex Fridman tegen zijn 3,3 miljoen volgers riep: “Wow, dit is echt verbluffend!”

Bovendien kan dit op AI gebaseerde tekst-naar-video systeem snel enorme hoeveelheden scamvideo’s produceren met lage kosten. Dit kan gebruikt worden voor “pump-and-dump” scams op social media, die nu al nauwelijks gemodereerd worden.

Kwaadwillende actoren kunnen deze AI dus misbruiken om goedkope, manipulatieve content te maken die viraal gaat en cryptoscams in rap tempo laat groeien als we niet ingrijpen.

Meer AI-nieuws

Naast Sora was het een drukke week in de AI-sector. OpenAI gaf ChatGPT ook een “geheugen”, zodat die prompts kan onthouden en gebruikers vergelijkbare verzoeken niet hoeven te herhalen.

Google heeft een upgrade aangekondigd van zijn AI-model Gemini. Versie 1.5 heeft een innovatief contextvenster van 1 miljoen tokens, waardoor het grote taalmodel aanzienlijk meer data kan verwerken dan zijn concurrenten.

Meta heeft V-JEPA uitgebracht. Dit nieuwe leermodel stelt AI in staat te begrijpen en te voorspellen wat er in een video gebeurt, zelfs met beperkte informatie.

Slack heeft ook nieuwe generatieve AI-functies in het werkplekplatform geïntegreerd. Deze omvatten verbeterde zoekfuncties, kanaalsamenvattingen, threadsamenvattingen en meer.