ИИ-персональный помощник: ChatGPT Health запущен, поднимая вопросы конфиденциальности

OpenAI широко выпустила ChatGPT Health для всех пользователей, включая тех, кто использует бесплатные тарифы, но это расширение сопровождается значительными изменениями в протоколах конфиденциальности, которые работникам интеллектуального труда следует тщательно изучить в отношении использования данных и обучения ИИ.

• ChatGPT Health от OpenAI теперь доступен всем пользователям старше 18 лет, на всех уровнях подписки, включая бесплатные аккаунты.
• Ключевой момент: условия конфиденциальности были ухудшены: только те беседы, в которых пользователи активно подключают и делятся своими медицинскими данными (например, Apple Health, больничные записи), теперь считаются «медицинскими беседами» и защищены от обучения ИИ.
• Общие запросы о здоровье или обсуждения диагнозов без подключенных данных не защищены и могут быть использованы OpenAI для будущего обучения моделей ИИ.
• Заявления OpenAI о том, что ChatGPT превосходит врачей в оценках ‘HealthBench’, встречают скептицизм, поскольку эти тесты могут не отражать реальные медицинские взаимодействия или надежность.

Широкое внедрение ChatGPT Health и меняющиеся условия конфиденциальности для вашего ИИ-персонального помощника

OpenAI объявила о широкой доступности ChatGPT Health, делая его специализированные ИИ-возможности, ориентированные на здравоохранение, доступными для всех пользователей в возрасте 18 лет и старше, независимо от их тарифного плана. Этот шаг направлен на позиционирование ChatGPT как комплексного ИИ-персонального помощника, предлагающего консультации и интерпретацию данных медицинских записей. Однако это широкое внедрение сопровождается заметными изменениями в его системе конфиденциальности, которые значительно отличаются от первоначального специализированного медицинского опыта.

Изначально ключевым обещанием ChatGPT Health было то, что все беседы, связанные со здоровьем, будут храниться отдельно и явно исключаться из обучения моделей ИИ. Эта гарантия обеспечивала определенный уровень комфорта для пользователей, обсуждающих конфиденциальную личную информацию. Однако обновленные условия вводят более тонкое и потенциально тревожное различие в отношении защиты данных, особенно для работников интеллектуального труда, которые часто взаимодействуют с ИИ-инструментами для повышения продуктивности и обрабатывают конфиденциальную информацию.

Каковы меняющиеся проблемы конфиденциальности для ИИ-инструментов персональных помощников?

Основная проблема для работников интеллектуального труда, использующих ИИ-инструменты персональных помощников, такие как ChatGPT Health, связана с конфиденциальностью данных. OpenAI теперь заявляет, что только информация, напрямую подключенная из внешних источников — таких как Apple Health, поддерживаемые больничные системы США, One Medical или Function Health — и используемая в беседах, будет защищена от обучения ИИ. Это означает, что если пользователь подключает свои медицинские записи, любое обсуждение, использующее эти подключенные данные, считается «медицинской беседой» с конкретными гарантиями конфиденциальности.

Напротив, если пользователь решает не подключать свои данные о здоровье, но при этом обсуждает диагноз или задает вопросы, связанные со здоровьем, своими словами, эти взаимодействия явно *не* считаются «медицинскими беседами». Следовательно, эти незащищенные обсуждения могут быть использованы OpenAI для будущего обучения моделей ИИ. Это различие фактически обязывает пользователей делиться своими наиболее конфиденциальными медицинскими данными с OpenAI, чтобы получить обещанные гарантии конфиденциальности, что является значительным отступлением от первоначального предложения и критически важным соображением для любого работника интеллектуального труда, оценивающего ИИ-инструменты для выполнения конфиденциальных задач.

Может ли ваш ИИ-персональный помощник действительно превзойти медицинских работников?

OpenAI представила свои оценки HealthBench как доказательство компетентности ChatGPT в медицинских консультациях, предполагая, что его модели могут набирать более высокие баллы, чем врачи-люди. Хотя эти оценки включают оценку ответов врачами, критики указывают на фундаментальные ограничения. Тесты часто состоят из коротких, тщательно разработанных сценариев, которые не воспроизводят сложности, идиоматические выражения, смены тем или непредвиденные проблемы, присущие реальным взаимодействиям между пациентом и врачом.

Предыдущие исследования последовательно показывают, что даже когда большие языковые модели (LLMs) дают точные ответы на отдельные вопросы о здоровье, их производительность может значительно ухудшаться в динамичных, реальных разговорных контекстах. Фреймворк HealthBench, сосредоточившись на коротких взаимодействиях, также не позволяет оценить такие критически важные элементы, как рабочие процессы долгосрочного ухода или междисциплинарные передачи, которые являются жизненно важными компонентами реальной медицинской практики. Это вызывает вопросы о практической надежности ИИ-персонального помощника для критически важных медицинских консультаций, призывая к осторожности работников интеллектуального труда, ищущих окончательные медицинские рекомендации.

Практические последствия для работников интеллектуального труда и ИИ-инструментов для повышения продуктивности

Для работников интеллектуального труда эволюция ChatGPT Health служит важным прецедентом для понимания мелкого шрифта в условиях использования ИИ-сервисов, особенно в отношении конфиденциальности данных. Независимо от того, используете ли вы ИИ для автоматизации задач, ИИ-инструменты для совещаний или ИИ для ведения заметок, принцип остается неизменным: понимайте, какие данные передаются и как они используются для обучения модели. Изменение в политике конфиденциальности ChatGPT Health подчеркивает необходимость проявлять осмотрительность при взаимодействии с любым ИИ, который обрабатывает личную или конфиденциальную информацию.

Хотя такие инструменты, как Notion AI, Reclaim AI, Motion, Otter AI или Microsoft Copilot, предлагают огромную ценность для продуктивности, прецедент, созданный медицинским предложением OpenAI, подчеркивает, что не все данные обрабатываются одинаково, и явное подключение данных часто определяет уровни конфиденциальности. Работники интеллектуального труда должны оставаться бдительными, тщательно изучая условия обслуживания всех ИИ-инструментов, чтобы убедиться, что их данные, особенно конфиденциальная личная или профессиональная информация, обрабатываются в соответствии с их ожиданиями и нормативными требованиями.

Ключевой вывод для использования ИИ работниками интеллектуального труда

Самый важный вывод для любого работника интеллектуального труда — проявлять крайнюю осторожность при вводе конфиденциальной личной информации, включая данные о здоровье, в ИИ-модели общего назначения, которые не предлагают явных, железных гарантий исключения данных из обучающих наборов. Всегда отдавайте предпочтение инструментам с прозрачными и надежными политиками конфиденциальности и предполагайте, что любые данные, не защищенные явным образом, могут быть использованы для доработки будущих моделей ИИ.

Частые вопросы

Каковы основные изменения в конфиденциальности с новым запуском ChatGPT Health?

Основное изменение заключается в том, что только медицинские беседы, в которых вы активно подключаете и делитесь своими медицинскими данными (например, Apple Health), защищены от обучения ИИ. Общие запросы о здоровье без подключенных данных не защищены и могут быть использованы для обучения.

Утверждает ли OpenAI, что ChatGPT Health лучше врачей?

Оценки HealthBench от OpenAI предполагают, что модели ChatGPT могут набирать более высокие баллы, чем врачи-люди, в конкретных, структурированных тестах. Однако критики утверждают, что эти тесты неточно отражают реальные медицинские консультации или сложности ухода за пациентами.

Каков практический вывод для работников интеллектуального труда относительно этой новости?

Работникам интеллектуального труда следует проявлять крайнюю осторожность при обмене любой конфиденциальной личной информацией или информацией, связанной со здоровьем, с ИИ-инструментами общего назначения. Всегда проверяйте конкретные условия конфиденциальности, чтобы понять, как ваши данные будут использоваться для обучения моделей ИИ.