Кнопки пешеходного перехода имеют смоделированные голоса мускуса и Цукерберга

Кнопки пешеходных переходов в городах Калифорнии взломаны с использованием голосов, сгенерированных ИИ

В минувшие выходные в странном повороте событий кнопки пешеходных переходов как минимум в трех городах Калифорнии были взломаны, и теперь они воспроизводят, по-видимому, голоса, сгенерированные ИИ, известных технологических магнатов Элона Маска и Марка Цукерберга. В интернете распространяются видеоролики, запечатлевшие эти голоса: голос Маска умоляет о дружбе, а голос Цукерберга хвастается "подрывом демократии" и "обработкой мозгов наших бабушек и дедушек с помощью ИИ-мусора".

Представитель Пало-Альто сообщил Palo Alto Online, что городские работники выявили 12 затронутых перекрестков в центре города. В качестве меры предосторожности голосовые функции на этих пешеходных переходах были отключены, пока ведется работа над устранением проблемы. Несмотря на взлом, сигналы функционируют нормально. Сообщается, что взлом произошел в пятницу.

Аналогичные инциденты были зафиксированы в Редвуд-Сити, где заместитель городского менеджера сообщил The San Francisco Chronicle, что город активно занимается этим вопросом и работает над решением. Также сообщается, что кнопки пешеходных переходов в Менло-Парке пострадали.

Эти голосовые функции имеют решающее значение для людей с нарушениями зрения, предоставляя звуковые сигналы "ждать" и указывая, когда переходить безопасно. Хотя неясно, насколько фальшивые голоса нарушают эту функцию, видео показывают, что они воспроизводятся вместе со стандартными сообщениями о безопасности.

Видео с имитацией голоса Элона Маска

Вот несколько клипов с имитированным голосом Элона Маска, а также мои транскрипции:

• "Привет, это Элон Маск, и я хотел бы лично приветствовать вас в Пало-Альто. Знаете, люди всё время говорят, что рак — это плохо, но пробовали ли вы быть раком? Это чертовски круто."

• "Привет, это Элон Маск. Добро пожаловать в Пало-Альто, дом инженерии Tesla. Знаете, говорят, что деньги не могут купить счастье, и, да, наверное, это правда. Бог знает, я пытался. Но они могут купить Cybertruck, и это довольно круто, правда? Правда? Чёрт, я так одинок."

• "Привет, я Элон. Можем ли мы быть друзьями? Будете моим другом? Я подарю вам Cybertruck, обещаю. Ладно, смотрите, вы не представляете, на какую низость я готов пойти ради крупицы одобрения."

В одном из видео даже был эпизод с голосом, имитирующим бывшего президента Дональда Трампа, который подшучивал над связью Маска с ним:

• "Не Маск: Знаете, забавно, я раньше думал, что он просто тупой мешок с дерьмом. Но когда узнаешь его поближе, он на самом деле довольно милый, нежный и любящий."

• "Не Трамп: Милашка, возвращайся в постель."

Видео с имитацией голоса Марка Цукерберга

Видео от Palo Alto Online продемонстрировало фальшивый голос Цукерберга, который говорил:

• "Привет, это Зук. Я просто хочу сказать, как сильно я горжусь всем, что мы создаем вместе. От подрыва демократии до обработки мозгов наших бабушек и дедушек ИИ-мусором, до — до того, чтобы сделать мир менее безопасным для трансгендерных людей. Никто не делает это лучше нас, и, э-э, я считаю, это довольно круто. Зук, пока!"

Другие видео с имитированным голосом Цукерберга содержали то же сообщение:

• "Привет, это Марк Цукерберг, но настоящие называют меня ‘Зук’. Знаете, нормально чувствовать себя некомфортно или даже нарушенным, когда мы настойчиво внедряем ИИ в каждый, каждый аспект вашего сознательного опыта. И я просто хочу заверить вас, что вам не стоит беспокоиться, потому что вы абсолютно ничего не можете сделать, чтобы это остановить. В любом случае, увидимся."

Эти инциденты подчеркивают потенциальные уязвимости в общественной инфраструктуре и творческие, но тревожные способы, которыми технологии могут быть использованы не по назначению.