Сэм Альтман предостерегает от использования ChatGPT для терапии без юридической защиты конфиденциальности

Прежде чем использовать своего ИИ-ассистента для эмоциональной поддержки или терапии, стоит подумать. Генеральный директор OpenAI Сэм Альтман отмечает, что в отрасли еще не созданы гарантии конфиденциальности пользователей во время деликатных бесед. Нет никакой врачебной тайны, когда вашим терапевтом является алгоритм.

Альтман поделился этими соображениями в недавнем эпизоде подкаста Тео Вона "This Past Weekend w/ Theo Von".

Отвечая на вопросы о взаимодействии ИИ с правовой системой, Альтман отметил, что в отсутствие установленных правовых рамок разговоры с ИИ не имеют юридической защиты конфиденциальности.

"Пользователи делятся с ChatGPT глубоко интимными подробностями своей жизни", - пояснил Альтман. Особенно молодые пользователи обращаются к нему как к психотерапевту или лайф-коучу, обсуждая отношения и прося совета". В то время как разговоры с людьми пользуются юридической привилегией и конфиденциальностью, мы не решили эту проблему для взаимодействия с ИИ".

Альтман добавил, что это создает риски для конфиденциальности во время судебных разбирательств, поскольку OpenAI может быть вынуждена раскрыть информацию о разговорах пользователей.

"Эта ситуация не идеальна. Мы должны распространить на разговоры ИИ те же стандарты конфиденциальности, которые мы применяем к сеансам терапии - до недавнего времени эта концепция никем не рассматривалась", - заявил Альтман.

Компания признает, что проблемы конфиденциальности могут помешать более широкому внедрению. Помимо того, что системам искусственного интеллекта требуются огромные данные для обучения, их все чаще просят предоставить записи пользовательских чатов в судебных делах. В настоящее время OpenAI оспаривает решение суда по своему иску к The New York Times, которое обязывает сохранять истории чатов сотен миллионов пользователей по всему миру, за исключением корпоративных клиентов.

Тяжеловесы технологического и венчурного бизнеса присоединяются к программе Disrupt 2025

Netflix, ElevenLabs, Wayve и Sequoia Capital - одни из лидеров индустрии, присоединившихся к программе Disrupt 2025. Они поделятся важнейшими идеями, которые помогут ускорить рост стартапов и отточить конкурентные преимущества. Примите участие в 20-й годовщине TechCrunch Disrupt и узнайте больше о передовых технологиях - приобретите билет прямо сейчас и сэкономьте до $675 до повышения цен.

К повестке Disrupt 2025 присоединяются ведущие технологические и венчурные эксперты

Netflix, ElevenLabs, Wayve и Sequoia Capital - одни из лидеров индустрии, присоединившихся к программе Disrupt 2025. Они поделятся важнейшими идеями, которые помогут ускорить рост стартапов и отточить конкурентные преимущества. Примите участие в 20-й годовщине TechCrunch Disrupt и узнайте мнение ведущих специалистов в области технологий - закажите билет прямо сейчас и сэкономьте до $675 до повышения цен.

На своем сайте OpenAI заявила, что подает апелляцию на решение суда, которое она называет "чрезмерным". Если суды смогут отменить решения компании о конфиденциальности данных, это может привести к тому, что OpenAI станет объектом расширенных судебных запросов и требований правоохранительных органов. Технологические компании регулярно получают повестки о предоставлении пользовательских данных в рамках уголовных дел, хотя последние изменения в законодательстве вызвали новые опасения по поводу доступа к цифровой информации.

Например, после того как Верховный суд отменил решение Roe v. Wade, многие пользователи перешли на более безопасные приложения для отслеживания месячных и Apple Health для ведения зашифрованных записей.

Альтман также поинтересовался, как ведущий использует ChatGPT, отметив признание Вона, что опасения по поводу конфиденциальности ограничивают его взаимодействие с чатботом с искусственным интеллектом.

"Совершенно разумно хотеть получить четкие гарантии конфиденциальности и юридическую защиту, прежде чем полностью принять ChatGPT", - признал Альтман.