Open AI varnar för beroendeframkallande chattbotröst

Den nya röstfunktionen har en rad människoliknande egenskaper. Dels kan den respondera i realtid, dels kan den göra hummande ljud eller skratta till under en konversation. Den kan också avgöra hur personen den interagerar med mår, baserat på dess tonläge skriver CNN.

I OpenAis säkerhetsrapport för GPT-4o står "Användare kan skapa sociala relationer med AI:n, vilket minskar deras behov av mänsklig interaktion – vilket potentiellt gynnar ensamma individer men också kan påverka deras hälsosamma relationer".

– Det är ganska självklart att man kan ha relationer och känslor till en AI. Vi kan projicera känslor till allt möjligt, säger sexolog Suzann Larsdotter till Sveriges radio.

Hon tror att det i vissa fall kan hjälpa människor som känner sig ensamma, medan framtidsforskare Karim Jebari är mer kritisk. Han menar att det finns risker på en samhällsnivå, att det kan göra isolerade människor ännu mer isolerade om de inte interagerar med riktiga människor.

– Sociala färdigheter är som en muskel, om du inte träffar människor så tappar du den färdigheten, säger Karim Jebari till Sveriges radio.

Kan dämpa vårt kritiska öga

Förutom att AI-rösten kan påverka våra relationer till andra så kan den känslomässiga anknytningen som uppstår göra oss mindre kritiska till vad den säger. Joaquin Quiñonero Candela, beredskapschef på OpenAI, säger att företaget kommer att fortsätta studera de känslomässiga kopplingarna noga, bland annat genom att övervaka hur betatestare interagerar med GPT-4o.

– Vi har inga resultat att dela med oss av för tillfället, men det finns på vår lista över orosmoment, säger han till Wired.