В данной статье анализируются ключевые этические, технологические и социальные риски бесконтрольного развития ИИ-психотехнологий и обосновывается необходимость создания единой «дорожной карты» для защиты психического здоровья граждан.
Катков, А.А. Чернова
Аннотация:
В настоящей статье приведен документ Стратегии совершенствования использования искусственного интеллекта в сфере психотерапии, психологического консультирования, иных психотехнологий на период 2025-2030 гг. (проект). Настоящая Стратегия является результирующим и всесторонне обоснованным документом комплексного исследовательского проекта «Оценка эффективности использования ИИ в психотерапии и консультировании», выполненного в продолжении 2023-2024 гг. В содержании проекта Стратегии основной акцент делается на ответственную и активную позицию профессионального психотерапевтического и психологического сообщества.
Ключевые слова: искусственный интеллект, психотерапия, консультирование, стратегия.
Общая информация
Документ «Стратегия совершенствования использования искусственного интеллекта в сфере психотерапии, психологического консультирования, иных психотехнологий на период 2025-2030 гг. (проект)» является одним из основных результатов комплексного исследовательского проекта «Оценка эффективности использования ИИ в психотерапии и консультировании», выполненного в продолжении 2023-2024 гг. Предполагается активное обсуждение данного документа на уровне экспертного психотерапевтического и психологического сообщества. И далее — утверждение настоящей Стратегии в качестве приоритетного направления деятельности профессионального сообщества. Ниже представлен полный проект — текст документа Стратегии.
Проект
Стратегия совершенствования использования искусственного интеллекта в сфере психотерапии, психологического консультирования, иных психотехнологий на период 2025-2030 гг.
Вводная информация
1. Большинство современных исследователей, специализирующихся в области долговременных цивилизационных прогнозов, считают, что главные риски Новейшего времени связаны, в том числе, и с катастрофическими вариантами развития событий в связи с использованием искусственного интеллекта (ИИ).
Некоторые позиции из стандартного перечня ИИ-рисков, представленного во множестве тематических обзоров, прямо касаются сферы психотехнологий.
С учетом установленного факта того, что слабо регулируемый и бурно развивающийся рынок психотехнологий имеет преобладающий деструктивный вектор воздействия на психическое здоровье человека, группы, общества, появление еще одного сверхмощного агрессивного агента в этом пространстве крайне нежелательно.
Тем не менее, конструктивный потенциал экологически выверенных ИИ-психотехнологий в сфере форсированного развития качественных характеристик психического здоровья человека, группы, общества — может и должен быть использован.
При этом понятно, что очевидно полезный и безопасный вариант развития событий в данной сфере может быть обеспечен только лишь за счет продуманных и согласованных усилий подготовленных инициативных и экспертных групп профессионального психотехнологического сообщества.
И далее, должна быть проработана, утверждена и принята к исполнению «дорожная карта» такой согласованной, многопрофильной деятельности, что и является заявляемой миссией настоящей Стратегии.
Анализ корректных научных данных показывает, что необходимо учитывать следующие, наиболее вероятные риски, возникающие при использовании ИИ-технологий в сфере оказания психотерапевтической, консультативной, иной психотехнологической помощи:
- этические риски — программы и алгоритмы ИИ могут отражать предвзятость разработчиков, что приводит к некорректным или дискриминационным решениям;
- технологические риски — программы и алгоритмы ИИ могут отражать предвзятость разработчиков в подборе психотехнологических рекомендаций, что приводит к неэффективным решениям, либо к иным негативным последствиям;
- потеря рабочих мест — автоматизация рабочих процессов с использованием ИИ, при отсутствии продуманной стратегии комплаенса, неизбежно приведет к потере рабочих мест в психотехнологической сфере;
- безопасность и приватность данных — с развитием ИИ возрастает риск потери безопасности и приватности данных. Системы могут стать объектом хакерских атак, а несанкционированный доступ к большим объёмам личной информации может иметь серьёзные последствия для пользователей;
- зависимость от ИИ-технологии — с ростом зависимости от ИИ существуют высокие риски того, что человек и общество станет слишком зависимым от этой технологии. Это может привести к утрате навыков самоорганизации и адаптации с опорой на собственные ресурсы, что неизбежно станет проблемой в случае сбоев или аномалий в работе ИИ, а в долговременной перспективе — сложной цивилизационной проблемой;
- отсутствие ответственности — в случае ошибок или негативных последствий трудно определить, кто несёт ответственность: разработчики, владельцы системы или сама технология;
- ограниченность ИИ — при всей своей мощи ИИ остаётся ограниченным в своих способностях и понимании контекста. Это может привести к ситуациям, когда системы ИИ делают ошибочные выводы из-за неполной информации.
Многие авторитетные исследователи полагают, что для снижения вышеприведенных рисков следует разрабатывать адекватные технологические, этические стандарты, обучать персонал взаимодействию с ИИ, обеспечивать безопасность данных, непрерывно анализировать результаты работы нейросетей.
Необходимые меры по реализации перечисленных и других сложных процессов по упорядочиванию использования ИИ в сфере психотерапии, консультирования, иных помогающих и развивающих психотехнологий исчерпывающим образом представлены в нижеследующей структуре и содержании документа настоящей Стратегии.
2. Следует подчеркнуть, что обозначенные в данном документе цели, задачи и способы их достижения находятся в полном соответствии с этическим (утвержден в РФ и на уровне 845-и международных организаций) и правовым (утвержден в ЕС) регламентами, непосредственно касающихся безопасного использования ИИ в различных сферах деятельности.
В частности, — со следующими основными положениями Кодекса этики в сфере ИИ (был принят на I Международном форуме «Этика искусственного интеллекта: начало доверия» в 2021 году):
- главный приоритет развития технологий ИИ в защите интересов и прав людей и отдельного человека;
- необходимо осознавать ответственность при создании и использовании ИИ;
- ответственность за последствия применения СИИ всегда несет человек;
- технологии ИИ нужно применять по назначению и внедрять там, где это принесёт пользу людям; -интересы развития технологий ИИ выше интересов конкуренции;
- важна максимальная прозрачность и правдивость в информировании об уровне развития технологий ИИ, их возможностях и рисках.
И далее — с Регламентом (ЕС) 2024/1689 Европейского Парламента и Совета от 13 июня 2024 года, в котором четко обозначены следующие важные позиции:
- Европейский закон об искусственном интеллекте — это первая в истории всеобъемлющая правовая база в области искусственного интеллекта во всем мире. Целью новых правил является развитие надежного искусственного интеллекта в Европе и за ее пределами путем обеспечения того, чтобы системы искусственного интеллекта уважали основные права, безопасность и этические принципы, а также путем устранения рисков, связанных с сильными моделями искусственного интеллекта;
-Европейский закон об искусственном интеллекте гарантирует, что европейцы могут доверять тому, что может предложить ИИ. Хотя большинство систем ИИ представляют ограниченный или нулевой риск и могут способствовать решению многих социальных проблем, некоторые системы ИИ создают риски, с которыми мы должны бороться, чтобы избежать нежелательных последствий;
-хотя существующее законодательство обеспечивает некоторую защиту, его недостаточно для решения конкретных проблем, которые могут возникнуть в связи с системами искусственного интеллекта.
В Европейском законе об искусственном интеллекте утверждаются следующие Новые правила взаимодействия с ИИ, предписывающие:
- устранять риски, специально создаваемые приложениями искусственного интеллекта;
- запретить методы искусственного интеллекта, которые создают неприемлемые риски; -определить список приложений с высоким уровнем риска;
- устанавливать четкие требования к системам искусственного интеллекта для приложений с высоким уровнем риска;
- определять конкретные обязательства разработчиков и поставщиков высокорисковых приложений искусственного интеллекта;
- проводить оценку соответствия требованиям безопасности до ввода в эксплуатацию или выпуска на рынок конкретной системы ИИ;
- вводить в действие принудительные меры после того, как данная система искусственного интеллекта будет выведена на рынок;
- создавать структуру управления на европейском и национальном уровнях.
В частности, системы искусственного интеллекта с высоким уровнем риска должны соответствовать следующим строгим требованиям, прежде чем их можно будет вывести на рынок:
- созданы и введены в действие адекватные системы оценки рисков и смягчения их последствий;
- обеспечено высокое качество наборов данных, поступающих в систему, для минимизации рисков и дискриминационных результатов;
- осуществляется ведение журнала действий для обеспечения прослеживаемости результатов;
- ведется подробная документация, содержащая всю необходимую информацию о системе и её назначении, чтобы органы власти могли оценить её соответствие требованиям;
- предоставлена четкая и адекватная информация для разработчика;
- приняты соответствующие меры по надзору за персоналом для минимизации риска; - обеспечен высокий уровень надежности и точности.
Анализ критериев определения степени риска в использовании программ ИИ в сфере психотерапии, консультирования, иных помогающих психотехнологий показывает, что большинство из используемых в настоящее время программ ИИ можно отнести к категории ограниченного риска.
В Европейском законе об искусственном интеллекте ограниченный риск определяется как угрозы, связанные с отсутствием прозрачности при использовании ИИ. Настоящий Закон вводит конкретные обязательства по обеспечению прозрачности, чтобы люди получали необходимую информацию, укрепляя доверие. Например, при использовании систем ИИ, таких как чат-боты, люди должны быть осведомлены о том, что они взаимодействуют с машиной, чтобы они могли принять взвешенное решение о том, продолжать ли взаимодействие или прервать его. Поставщики также должны обеспечивать идентификацию контента, созданного ИИ. И далее, все мероприятия, предусмотренные настоящим Законом, должны способствовать переводу ограниченных рисков в минимальные или отсутствие каких-либо рисков, что позволит использовать конструктивный потенциал ИИ в рассматриваемой сфере деятельности в наиболее приемлемом варианте.
3. Основные принципы, логика выведения и обеспечения всего комплекса мер, предлагаемых вышеприведенными регламентными документами Российской Федерации и Евросоюза, безусловно поддерживается настоящей Стратегией и в существенной части воспроизводится в следующих разделах документа.
Вместе с тем, в документе Стратегии безусловно учтены конкретные обстоятельства, касающиеся: состояния рынка ИИ-психотехнологий, используемых в области оказания психотерапевтической, консультативнопсихологической, иной психотехнологической помощи в Российской Федерации; ресурсных (в первую очередь кадровых, организационных, финансовых) возможностей крупных профессиональных ассоциаций ментального профиля, действующих на территории РФ; уровня исследования проблематики, касающейся способов повышения эффективности используемых ИИ-программ, и действенной профилактики возможных негативных последствий (цифровой зависимости).
Настоящая Стратегия ориентирована на краткосрочную перспективу (5 лет), что вполне оправдано в связи с беспрецедентными темпами развития ИИ-технологий и необходимостью создания механизмов обеспечения эффективного контроля и безопасности в ближайшие годы.