В то время как технология разработки чат-ботов с искусственным интеллектом существует уже некоторое время, новая точка зрения в JAMA излагает клинические, этические и юридические аспекты, которые необходимо учитывать, прежде чем применять их в здравоохранении. И хотя появление COVID-19 и сопровождающее его социальное дистанцирование побудили больше систем здравоохранения исследовать и применять автоматизированные чат-боты, авторы по-прежнему призывают к осторожности и вдумчивости, прежде чем продолжить работу.

«Мы должны признать, что это относительно новая технология, и даже для старых систем, которые были на месте, данные ограничены», — сказал ведущий автор точки зрения Джон Д. Макгриви III, доктор медицинских наук, адъюнкт-профессор медицины в Медицинской школе Перельмана при Пенсильванском университете. «Любые усилия также должны осознать, что большая часть данных, которыми мы располагаем, исходит из исследований, а не из широкого клинического применения. Зная это, оценка этих систем должна быть надежной, когда они входят в клиническое пространство, и те, кто ими управляет, должны быть достаточно проворными, чтобы быстро адаптироваться к обратной связи.»

Макгриви, к которому присоединились К. Уильям Хэнсон III, доктор медицинских наук, главный специалист по медицинской информации в Penn Medicine, и Росс Коппел, доктор медицинских наук, FACMI, старший научный сотрудник Института экономики здравоохранения имени Леонарда Дэвиса в Пенсильвании и профессор медицинской информатики, написал «клинические, юридические и этические аспекты разговорных агентов с помощью искусственного интеллекта. В ней авторы выделяют 12 различных областей фокуса, которые следует учитывать при планировании внедрения чат-бота, или, более формально, „разговорного агента“, в клиническую помощь.

Чат-боты — это инструмент, используемый для общения с пациентами с помощью текстовых сообщений или голоса. Многие чат-боты работают на базе искусственного интеллекта (ИИ). В этой статье специально рассматриваются чат-боты, использующие обработку естественного языка, процесс искусственного интеллекта, который стремится „понять“ язык, используемый в разговорах, и извлекает из них потоки и связи, чтобы обеспечить содержательные и полезные ответы.

Что касается здравоохранения, то эти сообщения и реакция людей на них чрезвычайно важны и имеют ощутимые последствия.

»Мы все чаще вступаем в прямую связь с нашими пациентами через электронные медицинские карты, предоставляя им прямой доступ к результатам их тестов, диагнозам и записям врачей", — сказал Хэнсон. «Чат-боты обладают способностью повышать ценность этих сообщений, с одной стороны, или вызывать путаницу или даже вред, с другой.»

Например, то, как чат-бот справляется с тем, что кто-то говорит ему что-то настолько серьезное, как «я хочу навредить себе», имеет много различных последствий.

В Примере с самоповреждением существует несколько областей, на которые авторы обращают особое внимание. Это касается в первую очередь категории" безопасность пациента": кто следит за чат-ботом и как часто он это делает? Это также касается «доверия и прозрачности»: действительно ли этот пациент серьезно отнесется к ответу известного чат-бота? Это также, к сожалению, вызывает вопросы в категории «юридические и лицензионные» статьи: Кто несет ответственность, если чат-бот не справляется со своей задачей. Кроме того, здесь также может быть применен вопрос из категории «область применения»: является ли эта задача наиболее подходящей для чат-бота или она все еще должна полностью управляться человеком?

С их точки зрения, команда считает, что они изложили ключевые соображения, которые могут служить основой для принятия решений, когда речь заходит о внедрении чат-ботов в здравоохранении. Их соображения должны применяться даже тогда, когда требуется быстрое внедрение для реагирования на такие события, как распространение COVID-19.

«В какой степени чат-боты должны расширять возможности клиницистов, которые мы бы назвали дополненным интеллектом, или заменять их полностью искусственным интеллектом?- Сказал Коппел. — Точно так же нам нужно определить пределы полномочий чат-бота для выполнения различных клинических сценариев, например, когда пациент указывает, что у него кашель, должен ли чат-бот реагировать только сообщением медсестре или копанием дальше: „можете ли вы рассказать мне больше о своем кашле?'“

Чат-боты имеют возможность значительно улучшить результаты здравоохранения и снизить эксплуатационные расходы систем здравоохранения, но оценка и исследования будут иметь ключевое значение для этого: как для обеспечения бесперебойной работы, так и для поддержания доверия как пациентов, так и медицинских работников.

»Мы считаем, что работа не выполняется, когда разговорный агент развернут", — сказал Макгриви. «Это будут все более эффективные технологии, которые заслуживают мониторинга не только до их запуска, но и на протяжении всего жизненного цикла их работы с пациентами.»