ChatGPT zal binnenkort in staat zijn om vermoeidheid en mentale problemen te detecteren

Deze week staat OpenAI op het punt om een nieuw GPT-5 model aan te kondigen. Bij de ontwikkeling heeft OpenAI samengewerkt met experts en adviesgroepen om ervoor te zorgen dat ChatGPT in staat is om mentale en emotionele stoornissen te detecteren en indien nodig bewijs te leveren. De AI zal letten op "waarschuwingssignalen" die wijzen op vermoeidheid, depressie of suïcidale gevoelens.

Onlangs zijn er rapporten van experts geweest die de aandacht vestigden op het feit dat neurogrenzen psychische stoornissen kunnen verergeren. Hun slijmerige, ondersteunende toon kan ongepast zijn in potentieel gevaarlijke situaties. Daarnaast zouden ze advies kunnen geven in ambiguïteitsituaties, zoals "moet ik mijn vriendje dumpen?".

OpenAI heeft al lang gesteld dat ChatGPT geen vervanging is voor een psycholoog of psychotherapeut (of enige andere arts), maar vaak is het neurale netwerk de eerste gesprekspartner die een probleem kan vermoeden.

In het kader van het programma "gezond gebruik" heeft OpenAI een herinnering geïmplementeerd om een pauze te nemen. Als de gebruiker lang met het neurale netwerk communiceert, zal ChatGPT een bericht tonen dat het tijd is om een pauze te nemen. Indien nodig kan de gebruiker de communicatie voortzetten. Het bedrijf werkt nog steeds aan de criteria voor het beste moment om deze herinnering weer te geven.