Illinois-autoriteiten zijn de eerste staat in de VS die AI-therapeuten officieel verbiedt
De staat Illinois is de eerste in de VS die officieel het gebruik van kunstmatige intelligentie in de rol van psychotherapeut verbiedt. De wet is ondertekend door gouverneur J.B. Pritzker en verbiedt expliciet het aanbieden van mentale gezondheidsdiensten als het niet door een mens, maar door een AI of een bot die met de cliënt communiceert, gebeurt.
Dit weten we
Zowel startups die "goedkope 24/7-therapie" op basis van neurale netwerken promoten als grote platforms die geautomatiseerde assistenten testen om gebruikers te ondersteunen, staan onder druk. Dergelijke diensten moeten nu duidelijk aangeven dat de gebruiker interactie heeft met een programma en niet met een gecertificeerde professional. Overtreders riskeren boetes.
De reden is veiligheid en bescherming van kwetsbare gebruikers, vooral tieners. De wet is ook gericht op het voorkomen van een vals gevoel van "hulp", wanneer een persoon denkt dat hij of zij communiceert met een professional, maar in werkelijkheid - met een algoritme zonder verantwoordelijkheid en competentie.
De stap is vooral sprekend tegen de achtergrond van het onlangs aangekondigde plan van de Trump-administratie om een federale moratorium van 10 jaar voor AI-regulering op het niveau van de individuele staten voor te stellen. Illinois daagt dit idee effectief uit door zijn eigen agenda te creëren om kwetsbare gebruikers te beschermen.
De wet kwam ook te midden van verklaringen van OpenAI, die aankondigde dat het de mogelijkheid testte van zijn modellen om tekenen van mentale ziekte te herkennen. Het bedrijf heeft ook beloofd om ongewoon lange gesprekken te onderbreken om de emotionele belasting voor gebruikers te verlagen. Al deze factoren hebben de angst vergroot: kan een machine "per ongeluk" genezen - en wie is er verantwoordelijk?
De beslissing van Illinois zou een precedent kunnen scheppen voor andere staten en landen, aangezien de markt voor AI-"therapie" bloeit. En niet zonder controversiële gevolgen.
Bron: IDFPR
