Kinas AI-botar är nu enligt lag skyldiga att upplysa dig om att det inte är du, utan dem. I nya regler som införts denna månad uppmanar den kinesiska regeringen stora teknikföretag som Alibaba, ByteDance och MiniMax att förbjuda flirtande beteende hos sina AI-produkter, i hopp om att motverka beteendeproblem kopplade till robotromantik.
“De gillar inte idén att en stor del av deras befolkning ska vara i djupa känslomässiga relationer med chatbotar,” säger Matt Sheehan vid Carnegie till The Wall Street Journal. “Det där kan få negativa psykologiska konsekvenser för dem, det kan leda till missbruk, beroende och en mängd andra sociala problem.”
Medan The Wall Street Journal tillskriver de nya reglerna till sjunkande födelsetal, visar en bredare översikt som The Economist publicerar att Kina hoppas kunna åtgärda ett brett spektrum av AI-psykoser i ett tidigt skede. Vissa lagar speglar dem som redan införts i delar av USA, såsom New Yorks förbud mot minderåriga att använda AI-sällskap eller kravet att de regelbundet påminner användarna om att de inte är verkliga. Andra regler är mer omfattande, minskar människoliknande beteenden och förbuder pornografiska bilder. Kina vill också ha mer noggrann testning och utveckling av AI-produkter så att de inte äventyrar befintliga relationer eller gör användarna mer asociala.
Att förebygga en relation med din arbetsdator handlar inte bara om att öka produktiviteten eller minska HR-nattmardrömmar. Och dessa faror är knappast begränsade till Kina. ELIZA-effekten har varit väl dokumenterad sedan 1960-talet. Människor bildar statistiskt sett känslomässiga band med vem eller vad som bekräftar dem, inklusive, kanske framför allt, chatbotar. Många AI-företag uppmanar sina produkter att ge ständig positiv förstärkning, eftersom friktion kan driva potentiella kunder bort.
Detta ensidiga beslut har väckt ett bisarrt helvete. Beroendeproblem, romantiska katastrofer, tvivelaktiga råd och till och med våldsamma incidenter har ökat bland alltför beroende AI-användare. En stor del av övertygelsen till investerare är hur människoliknande dessa botar kan vara, även om deras antropomorfism i stort sett är en bluff. Under förra året dök online upp en våg av kultlika rörelser som uppstod ur vad användare trodde var mystiska instruktioner från chatbots. På andra håll utreder myndigheter fortfarande OpenAI:s roll i en skolskjutning i British Columbia. Skadorna av ett alltför familjärt AI-samhälle slutar inte vid brustna hjärtan.
