Компания Optum, подразделение медицинского гиганта UnitedHealth, была вынуждена ограничить доступ к внутреннему ИИ-чатботу после того, как специалист по кибербезопасности обнаружил его публичную доступность в интернете.
Чатбот, получивший название "SOP Chatbot", использовался сотрудниками компании для получения информации о том, как обрабатывать страховые претензии пациентов и споры в соответствии со стандартными операционными процедурами компании.
По словам Моссаба Хуссейна, директора по безопасности компании spiderSilk, чатбот был размещен на внутреннем домене Optum, но его IP-адрес оставался публично доступным без необходимости ввода пароля.
Представитель Optum Эндрю Крейчи заявил, что SOP Chatbot был демонстрационным инструментом, разработанным как концепт, и никогда не использовался в производстве. По его словам, в боте не содержалось защищенной медицинской информации.
Согласно статистике на панели управления чатбота, сотрудники Optum использовали его сотни раз с сентября. История чатов показывает, что работники задавали вопросы о определении претензий и проверке дат продления полисов.
Стоит отметить, что UnitedHealth Group, владеющая Optum и UnitedHealthcare, в настоящее время сталкивается с критикой и судебными исками из-за предполагаемого использования искусственного интеллекта для отказа в претензиях пациентов. Федеральный иск обвиняет UnitedHealthcare в использовании модели ИИ с 90-процентным уровнем ошибок "вместо реальных медицинских специалистов для неправомерного отказа пожилым пациентам в медицинской помощи".
В 2023 году прибыль UnitedHealth Group составила 22 миллиарда долларов при выручке в 371 миллиард долларов.