OpenAI schaft zijn AI-risicoanalyse-afdeling af

De technologieonderneming OpenAI, bekend van het creëren van de populaire ChatGPT, heeft besloten om de afdeling die toekomstige risico’s van Kunstmatige Intelligentie (AI) analyseert op te heffen, slechts een jaar na de oprichting ervan, volgens berichten van Amerikaanse gespecialiseerde media afgelopen vrijdag.

Interne Reorganisatie

De afdeling, bekend als Superalignment, stond op het punt om tot 20% van de rekenkracht van OpenAI te ontvangen gedurende de komende vier jaar om te onderzoeken en de mogelijke gevaren die kunnen ontstaan met de vooruitgang in AI te evalueren. Er is echter gemeld dat de werknemers van deze divisie worden overgeplaatst naar andere gebieden binnen het bedrijf.

Belangrijke Vertrekken

Het nieuws van de opheffing van de afdeling komt enkele dagen nadat Ilya Sutskever, medeoprichter van OpenAI, en Jan Leike, mededirecteur van Superalignment, hun vertrek bij het bedrijf aankondigden. Beiden betoogden dat OpenAI meer aandacht zou moeten besteden aan veiligheid, toezicht, voorbereiding en de sociale impact van hun technologieën.

“Het bouwen van machines die slimmer zijn dan mensen is een inherent gevaarlijke onderneming. OpenAI neemt een enorme verantwoordelijkheid op zich namens de hele mensheid. Maar in de afgelopen jaren zijn de cultuur en veiligheidsprocessen ondergeschikt gemaakt aan innovatieve producten,” schreef Leike op het sociale netwerk X na zijn vertrek.

Veranderingen in het Bestuur

In november zette de raad van bestuur van OpenAI medeoprichter en CEO Sam Altman af, onder verwijzing naar een gebrek aan eerlijkheid, wat voor grote onzekerheid zorgde onder investeerders en werknemers. Echter, een week later, keerde Altman terug naar het bedrijf, en raadsleden die voor zijn afzetting hadden gestemd, zoals Sutskever, werden verplaatst van hun posities op de raad van bestuur, hoewel Sutskever in een andere rol binnen het bedrijf bleef.

Innovatie vs. Veiligheid

Verslagen van media zoals The Wall Street Journal wezen op een interne strijd tussen Altman en Sutskever. Sutskever, die meer gefocust was op de impact van AI op de mensheid, botste met Altman, wiens voornaamste focus lag op het voortzetten van de innovatie.

Nieuwe Lanceringen

Deze week lanceerde OpenAI een nieuw AI-model, GPT-4o, samen met een desktopversie van ChatGPT en een bijgewerkte interface, met als doel het communiceren van gebruikers via video met hun conversational bot te vergemakkelijken.

De beslissing om de afdeling risicoanalyse op te heffen roept vragen op over de toekomstige focus van OpenAI op het gebied van veiligheid en risicobeheer van kunstmatige intelligentie, op een moment waarop de technologie snel vooruitgaat en haar impact op de samenleving steeds belangrijker wordt.

Bron: Nieuws Kunstmatige Intelligentie