Китай спира персонализираните AI асистенти заради нови регулации

Популярни китайски платформи за изкуствен интелект, сред които Doubao на ByteDance и Qwen на Alibaba, спират функциите, които позволяват на потребителите да създават и разговарят с персонализирани AI асистенти. Промяната идва преди влизането в сила на новите регулации в Пекин, които целят засилване на надзора върху услугите с изкуствен интелект, наподобяващи човешкото поведение. Известия в приложенията на Doubao и Qwen насочват потребителите към отделни приложения за AI асистенти. Според местни медийни публикации, и други големи платформи, включително Yuanbao на Tencent Holdings, са предприели подобни действия. Новите правила, представени през април, забраняват на платформите да генерират съдържание, което предизвиква екстремни емоции при непълнолетни или създава нездравословни зависимости. Притесненията са свързани с възможността чатботовете да симулират човешки личности и емоции, както и с потенциалната емоционална привързаност, която потребителите могат да развият. Освен това, новата рамка забранява използването на чувствителни данни от потребителски разговори за обучение на бъдещи AI модели. В Китай отдавна се предлагат възможности за персонализиране на AI агенти, включително виртуални гаджета, приятели и дигитални терапевти. Регулаторният контрол вече обхваща и физически хардуер. Две индустриални групи в роботиката настояват за по-строги етични стандарти в момент, когато пазарът на ботове-компаньони и хуманоидни системи бързо нараства. Подобни мерки се обсъждат и в други държави, включително САЩ, където технологични компании са изправени пред съдебни дела заради потенциални вреди от хиперреалистични чатботове.