Google's nieuwe kunstmatige intelligentie model PaliGemma 2 kan emoties herkennen, maar experts maken zich er zorgen over

Google heeft een nieuw model kunstmatige intelligentie aangekondigd, PaliGemma 2, dat emoties in afbeeldingen kan herkennen.

Dit is wat we weten

Dit model analyseert foto's en maakt gedetailleerde beschrijvingen met acties, emoties en de algemene context van de scène. Deskundigen maken zich echter zorgen over de mogelijke implicaties van het gebruik van deze technologie. Ze geloven dat het herkennen van emoties een uitdaging is omdat mensen hun gevoelens anders uitdrukken, afhankelijk van hun culturele en persoonlijke context.

Sommige onderzoeken tonen aan dat emotieherkenningssystemen onbetrouwbaar en bevooroordeeld kunnen zijn. Google beweert uitgebreide tests te hebben uitgevoerd om de demografische vooringenomenheid in PaliGemma 2 te beoordelen en vond lage niveaus van toxiciteit en godslastering in vergelijking met industriestandaarden.

Het bedrijf heeft echter niet de volledige lijst met gebruikte benchmarks of de soorten uitgevoerde tests bekendgemaakt. Experts waarschuwen dat het gebruik van dergelijke technologieën kan leiden tot discriminatie en andere negatieve gevolgen.

Bron: techcrunch