Дом
Джордж Хотц предупреждает: агенты программирования на основе ИИ представляют собой наибольшую угрозу для программного обеспечения
George Hotz, всемирно известный хакер, исследователь в области кибербезопасности и основатель Comma.ai, недавно опубликовал пост в блоге, предупреждая, что чрезмерная зависимость от ИИ-агентов для программирования в современной разработке программного обеспечения может стать одной из самых дорогостоящих ошибок для компаний. Эта точка зрения немедленно вызвала широкое обсуждение и рефлексию в технологическом сообществе.
Статистическое имитирование — не истинный интеллект, дефекты кода скрыты глубже
Известный как «удивительный ребёнок», Hotz отметил, что после шести месяцев тщательного тестирования он обнаружил: современные ИИ-инструменты для программирования отлично подходят для быстрого создания прототипов проектов, но испытывают трудности с деталями реализации, определяющими качество программного обеспечения. Он подчеркнул, что большие языковые модели по своей сути являются сложными статистическими системами; их основная функция — имитировать распределение программного кода, а не по-настоящему понимать или решать проблемы.
В результате ИИ-агенты могут генерировать код, который выглядит впечатляюще на поверхности, однако это скрывает скрытые логические ошибки и дефекты, делая их более трудными для выявления. Разработчики-джуниоры с недостаточным опытом могут не заметить эти тонкие аппаратные и программные проблемы, слепо интегрируя дефектный код в производственные системы. В конечном итоге это приводит к чрезвычайно высоким затратам на поддержку и непредсказуемым рискам сбоев в будущем.
Крупные игроки отрасли демонстрируют разнонаправленные позиции, когнитивные конфликты усиливаются
Hotz признал, что его техническая оценка сместилась от раннего оптимизма к скептицизму, и его текущая позиция ближе к взглядам Яна Лекуна и Гэри Маркуса. Этот пессимистичный взгляд на ИИ-агенты для программирования резко контрастирует с агрессивными позициями, занимаемыми некоторыми лидерами в технологическом секторе.
Напротив, Андрей Карпаты, бывший руководитель направления ИИ в Tesla, недавно занял более позитивную позицию. Карпаты открыто заявил, что с выходом новых поколений больших моделей ИИ-агенты навсегда изменили способ программирования людей. Это подчеркивает значительный когнитивный разрыв внутри технологической индустрии относительно будущего разработки с помощью ИИ.
Связанная статья
Anthropic запускает стандарт оборудования MHS, совершая сильный вход в сферу физического ИИ
Anthropic опубликовала статью в блоге 27 августа, представив «Стандарт аппаратного обеспечения моделей» (MHS) в качестве предварительной исследовательской версии. Крупные средства массовой информации, включая Reuters и CNBC, расценили это как первый
Alibaba Unveils Qoder, Evolving AI Coding Tool Into a Universal Intelligent Agent Workstation
27 августа Alibaba официально представила обновленную версию Qoder, превратив оригинальную IDE для программирования с искусственным интеллектом в «рабочее пространство интеллектуальных агентов», ориентированное на возможности кодирования и доступное
Google переименовывает NotebookLM в Gemini, оснащая его облачным компьютером, способным писать и выполнять код
Долгопользователям NotebookLM следует подготовиться к появлению старого знакомого под новым именем. 16-го числа Google объявил о том, что его ИИ-ассистент для ведения заметок NotebookLM официально переименован в Gemini Notebook, что знаменует его пол
Рекомендации по связанным специальным темам
Комментарии (0)
George Hotz, всемирно известный хакер, исследователь в области кибербезопасности и основатель Comma.ai, недавно опубликовал пост в блоге, предупреждая, что чрезмерная зависимость от ИИ-агентов для программирования в современной разработке программного обеспечения может стать одной из самых дорогостоящих ошибок для компаний. Эта точка зрения немедленно вызвала широкое обсуждение и рефлексию в технологическом сообществе.
Статистическое имитирование — не истинный интеллект, дефекты кода скрыты глубже
Известный как «удивительный ребёнок», Hotz отметил, что после шести месяцев тщательного тестирования он обнаружил: современные ИИ-инструменты для программирования отлично подходят для быстрого создания прототипов проектов, но испытывают трудности с деталями реализации, определяющими качество программного обеспечения. Он подчеркнул, что большие языковые модели по своей сути являются сложными статистическими системами; их основная функция — имитировать распределение программного кода, а не по-настоящему понимать или решать проблемы.
В результате ИИ-агенты могут генерировать код, который выглядит впечатляюще на поверхности, однако это скрывает скрытые логические ошибки и дефекты, делая их более трудными для выявления. Разработчики-джуниоры с недостаточным опытом могут не заметить эти тонкие аппаратные и программные проблемы, слепо интегрируя дефектный код в производственные системы. В конечном итоге это приводит к чрезвычайно высоким затратам на поддержку и непредсказуемым рискам сбоев в будущем.
Крупные игроки отрасли демонстрируют разнонаправленные позиции, когнитивные конфликты усиливаются
Hotz признал, что его техническая оценка сместилась от раннего оптимизма к скептицизму, и его текущая позиция ближе к взглядам Яна Лекуна и Гэри Маркуса. Этот пессимистичный взгляд на ИИ-агенты для программирования резко контрастирует с агрессивными позициями, занимаемыми некоторыми лидерами в технологическом секторе.
Напротив, Андрей Карпаты, бывший руководитель направления ИИ в Tesla, недавно занял более позитивную позицию. Карпаты открыто заявил, что с выходом новых поколений больших моделей ИИ-агенты навсегда изменили способ программирования людей. Это подчеркивает значительный когнитивный разрыв внутри технологической индустрии относительно будущего разработки с помощью ИИ.
Anthropic запускает стандарт оборудования MHS, совершая сильный вход в сферу физического ИИ
Anthropic опубликовала статью в блоге 27 августа, представив «Стандарт аппаратного обеспечения моделей» (MHS) в качестве предварительной исследовательской версии. Крупные средства массовой информации, включая Reuters и CNBC, расценили это как первый
Alibaba Unveils Qoder, Evolving AI Coding Tool Into a Universal Intelligent Agent Workstation
27 августа Alibaba официально представила обновленную версию Qoder, превратив оригинальную IDE для программирования с искусственным интеллектом в «рабочее пространство интеллектуальных агентов», ориентированное на возможности кодирования и доступное
Google переименовывает NotebookLM в Gemini, оснащая его облачным компьютером, способным писать и выполнять код
Долгопользователям NotebookLM следует подготовиться к появлению старого знакомого под новым именем. 16-го числа Google объявил о том, что его ИИ-ассистент для ведения заметок NotebookLM официально переименован в Gemini Notebook, что знаменует его пол











