China's DeepSeek kunstmatige intelligentie bleek nep: haar rol werd uitgevoerd door duizenden automatisch vertaalde werknemers

De Chinese ontwikkelaar van kunstmatige intelligentie DeepSeek is in het middelpunt van een schandaal beland: in plaats van krachtige servers, algoritmen, neurale netwerken en machinaal leren, gebruikte het bedrijf duizenden levende, laagbetaalde werknemers die in de DeepSeek chatbot op gebruikers reageerden met behulp van automatische vertaling, waar de 6 miljoen dollar eigenlijk aan werd besteed.

Het bedrijf hield het lange tijd stil, totdat een van de werknemers een fout maakte en de copy-paste in het antwoord "Vertaald naar iPhone 6" verwijderde. De online gemeenschap voerde toen een eigen "onderzoek" uit dat het hele theater aan het licht bracht.

DeepSeek begon onmiddellijk de beschuldigingen te ontkennen en beweerde dat het "een experiment was met het vermenselijken van kunstmatige intelligentie" en dat hun model "eigenlijk extreem geavanceerd is - het is gewoon erg empathisch". De verklaring van het persbureau merkte zelfs op dat "mensen ook een soort biologisch algoritme zijn", wat betekent dat er technisch gezien geen sprake was van misleiding.

Ondertussen zijn voormalige werknemers er al in geslaagd om een vakbond op te richten met de naam "Living Neurons" en hebben zich gemeld om overuren voor nachtdiensten uitbetaald te krijgen. Een van hen, die anoniem wilde blijven, bekende:

We hadden een lijst met de populairste zinnen en die vertaalden we uit ons hoofd. Als we ze niet kenden, kopieerden we ze van de vertaler en voegden we er een beetje motivatie aan toe. Zelf heb ik klanten drie keer citaten uit de film Mulan gestuurd in plaats van een technische vraag over de API te beantwoorden.

Het web is DeepSeeka al"chatbot op menselijke kracht" gaan noemen en grapt dat ze Genuine People Units hebben in plaats van GPU's. Het nieuws bereikte zelfs Musk, die tweette:

Verbaasd. Het is net ChatGPT, maar dan met RSI en een lunchpauze.

RSI staat voor Repetitive Strain Injury, oftewel RSI. Een typische bijwerking voor kantoormedewerkers, vertalers, tekstschrijvers, nou ja, zoals je kunt zien - voor de "levende neurale netwerken" in DeepSeek. In de context van Musks grap klinkt het als: "Ja, de AI in DeepSeek is echt - het lijdt zelfs aan RSI, net als elke kantoormedewerker die ooit honderd keer dezelfde vragen heeft beantwoord."

Samuel Harris Altman, CEO van OpenAI - de ontwikkelaar van ChatGPT gaf als commentaar:

"Het lijkt op een terugkeer naar Mechanical Turk, maar dan in Turbo-modus.

Mechanical Turk (of "Mechanische Turk") is het concept om mensen te gebruiken die zich voordoen als machines. In de 18e eeuw creëerde de Oostenrijkse uitvinder Wolfgang von Kempelen een schaak-"automaat" die hij de Mechanische Turk noemde. Het was een houten kast met stukken, waarin zogenaamd een machine zat die mensen kon verslaan met schaken. In werkelijkheid zat er een echte schaker in verstopt die de stukken bestuurde - het was gewoon een spectaculaire zwendel om de Europese vorsten te verbazen.

Marktanalisten zijn in shock: de aandelen van het bedrijf dalen en stijgen, omdat niemand kan begrijpen of dit een mislukking of een briljante prestatie is. Maar het blijft een feit dat als je AI zegt "sorry voor de vergissing, ik ben ook maar een mens", hij misschien echt niet liegt.