В США приняли закон, запрещающий использовать ИИ в психотерапии

Иллинойс стал первым американским штатом, который законодательно запретил использование ИИ в качестве психотерапевта. Новый закон направлен на защиту пациентов от последствий взаимодействия с нейросетью.

Почему возникла необходимость в запрете

По словам законодателей, люди, находящиеся в состоянии кризиса, доверяют свои проблемы ИИ, что приводит к трагическим последствиям. Американская психологическая ассоциация предоставила данные, подкрепляющие эти опасения. Организация привела примеры двух судебных разбирательств, связанных с использованием чат-ботов на базе ИИ несовершеннолетними пациентами. В одном из случаев подросток напал на родителей, следуя советам чат-бота.

Новый закон вводит ограничения на применение ИИ в терапии. Он запрещает:

• использовать нейросеть для терапевтического взаимодействия с пациентами и при принятии клинических решений;
• внедрять планы лечения, предложенные ИИ, без обязательного утверждения дипломированным специалистом.

Также любое лицо или компания, предлагающие услуги в области психического здоровья, должны быть сертифицированы, а реклама терапии с использованием ИИ без лицензии теперь может обернуться штрафом в размере $10 тыс. за каждое нарушение. При этом закон разрешает задействовать ИИ при определенных условиях. Чат-боты можно внедрять в систему планирования визитов, обработки счетов и при записи к врачу.

Где еще ограничивают использование ИИ

В других штатах США тоже действуют ограничения, но не такие широкие, как в Иллинойсе. В Неваде запрещено использовать ИИ для оказания психологической помощи только в государственных школах. Юта ввела требования, согласно которым чат-боты для психического здоровья обязаны четко указывать, что они не являются людьми. Также они не должны собирать пользовательские данные для таргетированной рекламы.

Закон в Иллинойсе открывает новый этап в регулировании ИИ. Он может послужить образцом для других штатов и стран, которые стремятся найти баланс в применении ИИ в здравоохранении, образовании и юриспруденции.