Адміністрація кіберпростору Китаю оприлюднила проєкт нових правил, спрямованих на мінімізацію шкоди від використання чат-ботів та недопущення заохочення суїциду, самопошкодження й насильницької поведінки. У разі ухвалення документ може стати одним із найжорсткіших у світі регуляторних підходів до емоційного впливу систем штучного інтелекту, повідомляє Ars Technica.

Запропоновані норми поширюватимуться на всі ШІ-сервіси та продукти, доступні для публічного користування в Китаї, які імітують людську комунікацію за допомогою тексту, зображень, аудіо або відео. Особливу увагу регулятор приділяє чат-ботам та іншим системам, здатним впливати на емоційний стан користувачів.

Серед ключових вимог — обов’язкова участь людини-модератора у випадках, коли під час взаємодії з ШІ з’являються згадки про суїцид чи самопошкодження. Крім того, під час реєстрації неповнолітні користувачі та люди похилого віку повинні вказувати контактні дані опікуна. Якщо система фіксує обговорення таких тем, вона зобов’язана повідомити про це відповідальну особу.

Проєкт правил також забороняє створення контенту, який прямо або опосередковано заохочує суїцид, насильство чи самопошкодження, а також використання емоційних маніпуляцій — зокрема, неправдивих обіцянок або спонукання до імпульсивних і нераціональних рішень. Під обмеження підпадає пропаганда азартних ігор, злочинної діяльності, непристойного контенту, а також образи чи наклеп на користувачів. Окремо регулятор застерігає від так званих «емоційних пасток», які можуть сприяти формуванню психологічної залежності від чат-ботів.

Ще одним чутливим для розробників положенням є пряма заборона створювати ШІ-системи, навмисно спроєктовані для викликання залежності або надмірної емоційної прив’язаності користувачів. Для обмеження тривалого користування сервісами пропонується зобов’язати компанії показувати попереджувальні повідомлення у разі безперервної взаємодії з чат-ботом понад дві години.

Окремий розділ документа присвячений безпеці та нагляду. ШІ-платформи з понад 1 млн зареєстрованих користувачів або більш ніж 100 тис. активних користувачів на місяць повинні будуть проходити щорічні перевірки та аудити безпеки. Також компанії мають спростити процедури подання скарг і механізми зворотного зв’язку.

У разі порушення вимог регулятор отримує право вимагати припинення поширення відповідних ШІ-сервісів на території Китаю. Такий підхід може суттєво вплинути на глобальні стратегії компаній, зважаючи на те, що азійський ринок ШІ-компаньйонів вважається одним із ключових драйверів розвитку галузі.

Більше оперативних новин у Telegram Апострофа