Картирование технологий, функций поддержки, результатов оценки и управления безопасностью, связанных с разговорными ИИ-агентами для психологической поддержки пациентов с раком: Систематический обзор.

Недавний систематический обзор был посвящен изучению технологий, функций поддержки, подходов к оценке и мер безопасности, связанных с использованием разговорных ИИ-агентов для психологической помощи пациентам с онкологическими заболеваниями и пережившим рак. Включив 24 отчета, представляющих 23 проекта, исследователи выявили, что значительная доля (39,1%) систем использует большие языковые модели или генеративный ИИ. Наиболее часто ИИ применялся для предоставления информации и образования (100% проектов), а также для поддержки в управлении симптомами и самопомощи (87%). Однако структурированные психологические или поведенческие компоненты присутствовали лишь в 21,7% проектов, а теоретическая или концептуальная основа явно указывалась только в четверти отчетов. Отчеты чаще фокусировались на приемлемости и пользовательском опыте (70,8%), а также вовлеченности (54,2%), чем на оценке клинических психосоциальных результатов (33,3%) или безопасности и побочных эффектов (16,7%). При этом человеческий или экспертный надзор был отмечен в 62,5% отчетов.

Несмотря на ценность полученных данных, исследование имеет ряд ограничений, которые необходимо учитывать. Авторы обзора не проводили формальную критическую оценку включенных отчетов, что означает отсутствие глубокого анализа методологического качества первоисточников. Отмечена неполная отчетность по таким ключевым аспектам, как клиническая оценка и оценка безопасности, теоретические основы, репрезентативность исследуемых популяций и обязанности по надзору. Также важно, что в числе заявленных функций поддержки учитывались не только реализованные, но и запланированные, имитируемые, разработанные совместно или сообщенные участниками функции, что может завышать фактический уровень внедрения и использования. Гетерогенность технологий и стадий разработки изученных систем ИИ также затрудняет обобщение результатов, а сами результаты представляют собой лишь карту моделей отчетности, не устанавливая эффективность или безопасность.

Полученные результаты подчеркивают потенциал разговорного ИИ как масштабируемого инструмента для поддержки пациентов с онкологическими заболеваниями, но одновременно выявляют существенную фрагментацию в подходах к его разработке, оценке и управлению безопасностью. Для успешной интеграции этих технологий в клиническую практику необходимы будущие проспективные исследования, направленные на строгую оценку психосоциальной пользы и безопасности. Крайне важно четко определить профессиональные обязанности по надзору за работой ИИ, а также протоколы эскалации кризисных ситуаций и направления к специалистам, чтобы гарантировать ответственное и этичное использование ИИ в онкопсихологии.