Дом
Исследование выявило проблемы, связанные с получением надежных медицинских рекомендаций от чат-ботов
В то время как системы здравоохранения борются с длительным ожиданием и растущими расходами, все большее число пациентов экспериментируют с чат-ботами с искусственным интеллектом, такими как ChatGPT, для получения предварительной медицинской консультации. Согласно последним данным, около 17 % взрослых жителей США ежемесячно обращаются к этим инструментам за медицинской информацией. Однако новое исследование показывает, что эта новая практика сопряжена со значительными рисками, особенно когда пользователи не предоставляют адекватного контекста или неправильно интерпретируют ответы ИИ.
Исследование, проведенное под руководством Оксфорда, выявило критические ограничения в том, насколько эффективно люди используют разговорный ИИ для медицинской самооценки. Исследовательская группа работала с 1 300 британскими участниками, представляя им разработанные врачами медицинские сценарии. Участники пытались поставить диагноз, используя либо ИИ-помощников, либо традиционные методы, такие как поиск в Интернете, и получили неутешительные результаты на разных платформах ИИ.
"Мы наблюдали фундаментальный разрыв связи в обоих направлениях", - пояснил Адам Махди, соавтор исследования из Оксфордского института интернета. "Пользователи ИИ продемонстрировали не лучшие способности к принятию решений, чем те, кто использовал традиционные подходы, а в некоторых случаях даже хуже".
В ходе исследования были протестированы три ведущие модели ИИ: GPT-4o от OpenAI (на базе которой работает ChatGPT), Command R+ от Cohere и Llama 3 от Meta. Результаты выявили две тревожные закономерности:
- Участники, использовавшие инструменты ИИ, были менее успешны в определении соответствующих состояний здоровья
- Взаимодействие с ИИ приводило к опасной недооценке тяжести состояния.
Махди отметил значительные проблемы с качеством ввода и интерпретацией результатов: "Пользователи часто упускали важные медицинские детали при формулировании запросов, в то время как ответы ИИ часто смешивали точные советы с проблематичными предложениями". Такое сочетание создавало особенно опасные сценарии, в которых пользователи могли принимать неправильные решения в области здравоохранения.
Промышленность против медицинских реалий
Эти выводы появились на фоне того, что крупные технологические компании активно разрабатывают приложения ИИ, ориентированные на здоровье:
- Apple, как сообщается, создает велнес-советника для рекомендаций по физическим упражнениям и сну.
- Amazon анализирует медицинские карты на предмет социальных показателей здоровья
- Microsoft разрабатывает системы искусственного интеллекта для определения приоритетов в общении с пациентами.
Однако медицинское сообщество по-прежнему с осторожностью относится к внедрению этих технологий в клинических условиях. Американская медицинская ассоциация прямо предостерегает врачей от использования потребительских чат-ботов для поддержки принятия решений, и это предупреждение повторяют сами разработчики ИИ. Политика использования Open AI специально запрещает использовать свои модели в диагностических целях.
"Мы настоятельно рекомендуем людям обращаться к проверенным медицинским источникам, а не к результатам работы чат-ботов для принятия решений в области здравоохранения", - подчеркнул Махди. "Перед широким внедрением эти системы нуждаются в тщательном тестировании в реальных условиях, сравнимом с фармацевтическими испытаниями".
Заключение
Хотя чат-боты с искусственным интеллектом предлагают интригующие возможности для повышения доступности здравоохранения, данное исследование выявляет существенные риски в текущих реализациях. По мере развития технологии разработчики должны устранить критические пробелы в надежности, а пользователи должны подходить к медицинским советам ИИ с соответствующим скептицизмом.
Связанная статья
Рост ИИ сдерживается отсутствием доверия со стороны общества
В то время как политики подчеркивают потенциал ИИ для роста и повышения эффективности, в недавнем отчете говорится о значительном дефиците доверия среди населения. Широко распространенный скептицизм с
Duolingo заменяет подрядчиков искусственным интеллектом в рамках стратегической перестройки
Duolingo проводит реструктуризацию отдельных команд в рамках перехода к организации, ориентированной на искусственный интеллект (ИИ), как сообщается во внутренней памятке генерального директора и соучредителя Луиса фон Ана, которая позже была опублик
Исследование Массачусетского технологического института показало, что искусственный интеллект снижает активность человеческого мозга
Исследование, проведенное Массачусетским технологическим институтом (MIT), показало, что использование большой языковой модели (LLM) не только снижает умственные усилия в данный момент, но и оказывает
Рекомендации по связанным специальным темам
Дизайн и искусство
Лучшие инструменты для переноса стилей с помощью ИИ для творческих экспериментов
2026: лучшие и самые популярные инструменты для переноса стиля с помощью ИИ для творческих экспериментов! XIX.AI подготовила подборку мощных, революционных инструментов, которые обязательно стоит попробовать: они демонстрируют исключительные результаты, подтвержденные реальными тестами и тщательным рейтингом. Эти ведущие решения помогают творческим людям значительно повысить продуктивность, ускоряя создание контента и открывая безграничные творческие возможности. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент и начать творить уже сегодня!
9 инструментов
xix.ai
Создание комиксов
Лучшие инструменты для создания диалоговых пузырей с помощью ИИ для визуального повествования
2026 года: самые новые и лучшие инструменты с ИИ для создания диалоговых пузырей в визуальном сторителлинге представлены на XIX.AI! В этой тщательно подобранной подборке представлены мощные, революционные инструменты, которые помогут творческим людям повысить продуктивность и преодолеть творческие кризисы. Ознакомьтесь со сравнением бесплатных и платных версий, посмотрите тесты в реальных условиях и изучите последние рейтинги, чтобы найти решения, которые обязательно стоит попробовать и которые идеально подходят для создания увлекательных визуальных историй. Исследуйте коллекцию прямо сейчас, чтобы найти свой идеальный инструмент!
10 инструментов
xix.ai
Помощник по встречам
Лучшие инструменты для составления отчетов о встречах с использованием ИИ: четкое отслеживание решений и последующих действий
2026: Последние версии лучших инструментов для составления отчетов о встречах с помощью ИИ, обеспечивающих четкое отслеживание решений и удобное выполнение последующих действий. В этом тщательно подобранном списке представлены мощные, революционные решения, которые значительно повышают продуктивность за счет автоматизации ведения протоколов встреч, выявления ключевых задач и оптимизации координации работы команды по всем проектам. Получите сравнение бесплатных и платных версий, а также результаты реальных тестов и еженедельно обновляемые рейтинги, которые помогут вам найти идеальный инструмент. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
Анализ данных
Лучшие инструменты для очистки данных с использованием ИИ: быстрое устранение пропущенных значений и дубликатов
2026 год: лучшие и наиболее высоко оценённые инструменты для очистки данных с ИИ, предназначенные для быстрого устранения пропущенных значений и дубликатов. В этом тщательно отобранном списке представлены мощные решения, способные кардинально повысить производительность. Каждый инструмент прошёл строгие тестирования в реальных условиях для обеспечения надёжности. Получите бесплатное сравнение версий с платной и найдите инструмент, который наилучшим образом соответствует вашим потребностям. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть полный потенциал работы с ИИ.
11 инструментов
xix.ai
Дизайн и искусство
Лучшие инструменты для творческого мышления на основе ИИ для художников: преодоление визуальных блоков
В 2026 году лучшие и наиболее популярные инструменты для творческого мышления с использованием ИИ для художников были отобраны XIX.AI, чтобы помочь создателям преодолеть визуальные блоки и мгновенно повысить креативность. Эти мощные инструменты, меняющие правила игры, предлагают реальные тесты, подробное сравнение бесплатных и платных версий, а также еженедельно обновляемые рейтинги. Найдите идеальный инструмент для ускорения создания контента и откройте свой ИИ-преимущество уже сегодня. Исследуйте сейчас!
14 инструментов
xix.ai
Музыкальная композиция
AI-битмейкеры для фоновых треков в TikTok, звукового сопровождения в Reels и промо-музыки для авторов контента
2026: лучшие современные AI-битмейкеры для фоновых треков в TikTok, аудио для Reels и промо-музыки для авторов! XIX.AI составил рейтинг самых популярных и мощных инструментов, которые прошли реальные испытания и позволяют создавать безупречную музыку для любых потребностей контента. Здесь вы найдёте подробные сравнительные данные по бесплатным и платным версиям, еженедельно обновляемые рейтинги и варианты, которые обязательно стоит попробовать, чтобы повысить свою креативность и продуктивность. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для себя!
11 инструментов
xix.ai
Комментарии (3)
![PaulHill]()
Wait, 17% of adults already use chatbots for medical advice? That's terrifying. I can barely trust WebMD without spiraling into hypochondria. 😅 Has anyone actually gotten a correct diagnosis from ChatGPT? I'd rather wait for my doctor than risk a hallucination about my symptoms.
![DanielAllen]()
Die 17% Nutzerquote ist krass, aber logisch - bei monatelangen Wartezeiten bei nem Facharzt frag ich auch erstmal ChatGPT. Der Artikel bringt es gut auf den Punkt: 'Daten sind ein Problem'. Wenn mein Chatbot mit veralteten Studien oder irreführenden, kommerziellen Gesundheits-Blogs trainiert wurde, ist der Ratschlag mehr als nur 'unzuverlässig', das wird potenziell gefährlich. 🧐 Ich hoffe, die Regulierungsbehörden schlafen da nicht ein.
![WillieClark]()
看完这篇标题为“Study Reveals Challenges in Obtaining Reliable Health Advice From Chatbots”的研究简介感觉有点担忧，17%的人用ChatGPT询问健康建议其实挺普遍的。但AI毕竟不是医生，给出的信息准不准确、会不会耽误病情都是问题，得小心谨慎啊😂。希望未来能有更可靠的医疗AI，但现在还是去正规医院更靠谱。
В то время как системы здравоохранения борются с длительным ожиданием и растущими расходами, все большее число пациентов экспериментируют с чат-ботами с искусственным интеллектом, такими как ChatGPT, для получения предварительной медицинской консультации. Согласно последним данным, около 17 % взрослых жителей США ежемесячно обращаются к этим инструментам за медицинской информацией. Однако новое исследование показывает, что эта новая практика сопряжена со значительными рисками, особенно когда пользователи не предоставляют адекватного контекста или неправильно интерпретируют ответы ИИ.
Исследование, проведенное под руководством Оксфорда, выявило критические ограничения в том, насколько эффективно люди используют разговорный ИИ для медицинской самооценки. Исследовательская группа работала с 1 300 британскими участниками, представляя им разработанные врачами медицинские сценарии. Участники пытались поставить диагноз, используя либо ИИ-помощников, либо традиционные методы, такие как поиск в Интернете, и получили неутешительные результаты на разных платформах ИИ.
"Мы наблюдали фундаментальный разрыв связи в обоих направлениях", - пояснил Адам Махди, соавтор исследования из Оксфордского института интернета. "Пользователи ИИ продемонстрировали не лучшие способности к принятию решений, чем те, кто использовал традиционные подходы, а в некоторых случаях даже хуже".
В ходе исследования были протестированы три ведущие модели ИИ: GPT-4o от OpenAI (на базе которой работает ChatGPT), Command R+ от Cohere и Llama 3 от Meta. Результаты выявили две тревожные закономерности:
- Участники, использовавшие инструменты ИИ, были менее успешны в определении соответствующих состояний здоровья
- Взаимодействие с ИИ приводило к опасной недооценке тяжести состояния.
Махди отметил значительные проблемы с качеством ввода и интерпретацией результатов: "Пользователи часто упускали важные медицинские детали при формулировании запросов, в то время как ответы ИИ часто смешивали точные советы с проблематичными предложениями". Такое сочетание создавало особенно опасные сценарии, в которых пользователи могли принимать неправильные решения в области здравоохранения.
Промышленность против медицинских реалий
Эти выводы появились на фоне того, что крупные технологические компании активно разрабатывают приложения ИИ, ориентированные на здоровье:
- Apple, как сообщается, создает велнес-советника для рекомендаций по физическим упражнениям и сну.
- Amazon анализирует медицинские карты на предмет социальных показателей здоровья
- Microsoft разрабатывает системы искусственного интеллекта для определения приоритетов в общении с пациентами.
Однако медицинское сообщество по-прежнему с осторожностью относится к внедрению этих технологий в клинических условиях. Американская медицинская ассоциация прямо предостерегает врачей от использования потребительских чат-ботов для поддержки принятия решений, и это предупреждение повторяют сами разработчики ИИ. Политика использования Open AI специально запрещает использовать свои модели в диагностических целях.
"Мы настоятельно рекомендуем людям обращаться к проверенным медицинским источникам, а не к результатам работы чат-ботов для принятия решений в области здравоохранения", - подчеркнул Махди. "Перед широким внедрением эти системы нуждаются в тщательном тестировании в реальных условиях, сравнимом с фармацевтическими испытаниями".
Заключение
Хотя чат-боты с искусственным интеллектом предлагают интригующие возможности для повышения доступности здравоохранения, данное исследование выявляет существенные риски в текущих реализациях. По мере развития технологии разработчики должны устранить критические пробелы в надежности, а пользователи должны подходить к медицинским советам ИИ с соответствующим скептицизмом.
Рост ИИ сдерживается отсутствием доверия со стороны общества
В то время как политики подчеркивают потенциал ИИ для роста и повышения эффективности, в недавнем отчете говорится о значительном дефиците доверия среди населения. Широко распространенный скептицизм с
Duolingo заменяет подрядчиков искусственным интеллектом в рамках стратегической перестройки
Duolingo проводит реструктуризацию отдельных команд в рамках перехода к организации, ориентированной на искусственный интеллект (ИИ), как сообщается во внутренней памятке генерального директора и соучредителя Луиса фон Ана, которая позже была опублик
Исследование Массачусетского технологического института показало, что искусственный интеллект снижает активность человеческого мозга
Исследование, проведенное Массачусетским технологическим институтом (MIT), показало, что использование большой языковой модели (LLM) не только снижает умственные усилия в данный момент, но и оказывает
2026: лучшие и самые популярные инструменты для переноса стиля с помощью ИИ для творческих экспериментов! XIX.AI подготовила подборку мощных, революционных инструментов, которые обязательно стоит попробовать: они демонстрируют исключительные результаты, подтвержденные реальными тестами и тщательным рейтингом. Эти ведущие решения помогают творческим людям значительно повысить продуктивность, ускоряя создание контента и открывая безграничные творческие возможности. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент и начать творить уже сегодня!
9 инструментов
xix.ai
2026 года: самые новые и лучшие инструменты с ИИ для создания диалоговых пузырей в визуальном сторителлинге представлены на XIX.AI! В этой тщательно подобранной подборке представлены мощные, революционные инструменты, которые помогут творческим людям повысить продуктивность и преодолеть творческие кризисы. Ознакомьтесь со сравнением бесплатных и платных версий, посмотрите тесты в реальных условиях и изучите последние рейтинги, чтобы найти решения, которые обязательно стоит попробовать и которые идеально подходят для создания увлекательных визуальных историй. Исследуйте коллекцию прямо сейчас, чтобы найти свой идеальный инструмент!
10 инструментов
xix.ai
2026: Последние версии лучших инструментов для составления отчетов о встречах с помощью ИИ, обеспечивающих четкое отслеживание решений и удобное выполнение последующих действий. В этом тщательно подобранном списке представлены мощные, революционные решения, которые значительно повышают продуктивность за счет автоматизации ведения протоколов встреч, выявления ключевых задач и оптимизации координации работы команды по всем проектам. Получите сравнение бесплатных и платных версий, а также результаты реальных тестов и еженедельно обновляемые рейтинги, которые помогут вам найти идеальный инструмент. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
2026 год: лучшие и наиболее высоко оценённые инструменты для очистки данных с ИИ, предназначенные для быстрого устранения пропущенных значений и дубликатов. В этом тщательно отобранном списке представлены мощные решения, способные кардинально повысить производительность. Каждый инструмент прошёл строгие тестирования в реальных условиях для обеспечения надёжности. Получите бесплатное сравнение версий с платной и найдите инструмент, который наилучшим образом соответствует вашим потребностям. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть полный потенциал работы с ИИ.
11 инструментов
xix.ai
В 2026 году лучшие и наиболее популярные инструменты для творческого мышления с использованием ИИ для художников были отобраны XIX.AI, чтобы помочь создателям преодолеть визуальные блоки и мгновенно повысить креативность. Эти мощные инструменты, меняющие правила игры, предлагают реальные тесты, подробное сравнение бесплатных и платных версий, а также еженедельно обновляемые рейтинги. Найдите идеальный инструмент для ускорения создания контента и откройте свой ИИ-преимущество уже сегодня. Исследуйте сейчас!
14 инструментов
xix.ai
2026: лучшие современные AI-битмейкеры для фоновых треков в TikTok, аудио для Reels и промо-музыки для авторов! XIX.AI составил рейтинг самых популярных и мощных инструментов, которые прошли реальные испытания и позволяют создавать безупречную музыку для любых потребностей контента. Здесь вы найдёте подробные сравнительные данные по бесплатным и платным версиям, еженедельно обновляемые рейтинги и варианты, которые обязательно стоит попробовать, чтобы повысить свою креативность и продуктивность. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для себя!
11 инструментов
xix.ai
Wait, 17% of adults already use chatbots for medical advice? That's terrifying. I can barely trust WebMD without spiraling into hypochondria. 😅 Has anyone actually gotten a correct diagnosis from ChatGPT? I'd rather wait for my doctor than risk a hallucination about my symptoms.
Die 17% Nutzerquote ist krass, aber logisch - bei monatelangen Wartezeiten bei nem Facharzt frag ich auch erstmal ChatGPT. Der Artikel bringt es gut auf den Punkt: 'Daten sind ein Problem'. Wenn mein Chatbot mit veralteten Studien oder irreführenden, kommerziellen Gesundheits-Blogs trainiert wurde, ist der Ratschlag mehr als nur 'unzuverlässig', das wird potenziell gefährlich. 🧐 Ich hoffe, die Regulierungsbehörden schlafen da nicht ein.
看完这篇标题为“Study Reveals Challenges in Obtaining Reliable Health Advice From Chatbots”的研究简介感觉有点担忧，17%的人用ChatGPT询问健康建议其实挺普遍的。但AI毕竟不是医生，给出的信息准不准确、会不会耽误病情都是问题，得小心谨慎啊😂。希望未来能有更可靠的医疗AI，但现在还是去正规医院更靠谱。
