Эксперты в области здравоохранения бьют тревогу из-за ИИ

Международная группа врачей и экспертов в области общественного здравоохранения предупреждает, что ИИ представляет «экзистенциальную угрозу» для людей. Исследования и разработки в области искусственного интеллекта (ИИ), как считают эксперты, должны быть остановлены до тех пор, пока его использование и технологии не будут должным образом регулироваться. 

Искусственный интеллект может произвести революцию в здравоохранении, улучшив диагностику заболеваний, найдя лучшие способы лечения пациентов и предоставив помощь большему количеству людей. Но его развитие также может оказывать негативное воздействие на здоровье, считают медики из Великобритании, США, Австралии, Коста-Рики и Малайзии. Они пишут об этом в журнале BMJ Global Health.

Риски, связанные с медициной и здравоохранением, «включают в себя возможность того, что ошибки ИИ могут причинить вред пациенту, создать проблемы с конфиденциальностью и безопасностью данных, а также усугубить социальное неравенство», — заявили они.

По их словам, одним из примеров нанесения вреда было использование пульсоксиметра, управляемого искусственным интеллектом, который завышал уровень кислорода в крови у пациентов с более темной кожей, что приводило к недостаточному лечению гипоксии.

ИИ может нанести вред здоровью миллионов через социальные детерминанты посредством контроля и манипулирования людьми, использования смертоносного автономного оружия и последствий массовой безработицы для психического здоровья, если системы на основе ИИ вытеснят большее количество работников.

«В сочетании с быстро улучшающейся способностью искажать реальность с помощью дип-фейков информационные системы, управляемые ИИ, могут еще больше подорвать демократию, вызывая общую утрату доверия или провоцируя социальные разногласия и конфликты с вытекающими последствиями».

Они считают что слежку с помощью ИИ можно использовать для контроля и подавления людей. Примером может служить китайская система социального кредита, сочетающая программное обеспечение для распознавания лиц и анализ хранилищ «больших данных» о финансовых транзакциях, передвижениях, полицейских записях и социальных отношениях.

По словам команды, по крайней мере 75 стран расширяют системы такого типа, включая либеральные демократии.

Угрозы также возникают из-за потери рабочих мест, которая будет сопровождать широкое внедрение технологий искусственного интеллекта. По разным оценкам, в ближайшее десятилетие от десятков до сотен миллионов людей потеряют работу.

«Хотя прекращение монотонной, опасной и неприятной работы принесло бы много пользы, мы уже знаем, что безработица тесно связана с неблагоприятными последствиями для здоровья и психики».

Еще одна область угроз связана с разработкой смертоносных автономных систем вооружения (LAWS). Прикрепленные к небольшим мобильным устройствам, таким как дроны, они могут обнаруживать, выбирать и поражать человеческие цели без участия человека. Это может убивать людей «в промышленных масштабах», пояснили авторы.

Но угроза, исходящая от самосовершенствующегося общего искусственного интеллекта, который, теоретически, может обучаться и выполнять весь спектр человеческих задач, всеобъемлюща, предположили они.

«Сейчас мы пытаемся создать машины, которые намного умнее и мощнее, чем мы сами. Потенциал таких машин для применения этого интеллекта и силы, преднамеренно или нет, и способами, которые могут нанести вред или поработить людей, реален и должен быть рассмотрен».

Чтобы избежать вреда, необходимо эффективное регулирование разработки и использования искусственного интеллекта. Пока такое регулирование не будет принято, следует ввести мораторий на разработку самосовершенствующегося искусственного интеллекта.

Конечно, современные текстовые ресурсы искусственного интеллекта, такие как ChatGPT от OpenAI, представляют собой не совсем апокалиптические угрозы, которые имеют в виду эти специалисты по политике в области здравоохранения. Тут речь идет именно о самоулучшающиемся ИИ общего назначения (ОИИ) или AGI. Эксперты во главе с врачом из Международного института глобального здравоохранения при Университете Организации Объединенных Наций объяснили, что он может обучаться и выполнять весь спектр человеческих задач.

«Существуют сценарии, в которых ОИИ может представлять угрозу для людей и, возможно, экзистенциальную угрозу, — писали эксперты, — преднамеренно или непреднамеренно причиняя вред, прямо или косвенно, атакуя или подчиняя людей, нарушая работу систем или используя ресурсы, от которых мы зависим».

По материалам: The Guardian, U.S.News, DailyMail