Các nút Crosswalk bị hack có giọng nói mô phỏng của Musk và Zuckerberg

Nút bấm qua đường ở các thành phố California bị hack bằng giọng nói do AI tạo ra

Trong một diễn biến kỳ lạ vào cuối tuần, các nút bấm qua đường ở ít nhất ba thành phố California đã bị can thiệp, xuất hiện những giọng nói dường như được tạo ra bởi AI của các tỷ phú công nghệ Elon Musk và Mark Zuckerberg. Các video lan truyền trên mạng đã ghi lại những giọng nói này, với giọng của Musk cầu xin tình bạn và giọng của Zuckerberg khoe khoang về việc "làm suy yếu nền dân chủ" và "nấu chín bộ não của ông bà chúng ta bằng nội dung AI kém chất lượng."

Một phát ngôn viên từ Palo Alto nói với Palo Alto Online rằng nhân viên thành phố đã xác định 12 nút giao thông bị ảnh hưởng ở khu vực trung tâm. Để đề phòng, họ đã tắt tính năng giọng nói trên các nút bấm qua đường này trong khi khắc phục sự cố. Dù bị hack, các tín hiệu vẫn hoạt động bình thường. Vụ can thiệp được cho là xảy ra vào thứ Sáu.

Các sự cố tương tự cũng được báo cáo ở Redwood City, nơi một phó quản lý thành phố thông báo với The San Francisco Chronicle rằng thành phố đang tích cực điều tra vấn đề và tìm cách giải quyết. Các nút bấm qua đường ở Menlo Park cũng được cho là bị ảnh hưởng.

Các tính năng giọng nói này rất quan trọng đối với người khiếm thị, cung cấp tín hiệu âm thanh để "đợi" và báo hiệu khi an toàn để qua đường. Mặc dù chưa rõ các giọng nói giả mạo ảnh hưởng đến chức năng này như thế nào, các video cho thấy chúng phát cùng với các thông báo an toàn tiêu chuẩn.

Video có giọng nói mô phỏng của Elon Musk

Dưới đây là một số đoạn video có giọng nói mô phỏng của Elon Musk, cùng với bản chép lời của tôi:

• "Xin chào, đây là Elon Musk, và tôi muốn đích thân chào mừng bạn đến với Palo Alto. Bạn biết đấy, mọi người cứ nói, ‘ung thư thì tệ,’ nhưng bạn đã bao giờ thử làm ung thư chưa? Nó thật sự tuyệt vời."

• "Xin chào, đây là Elon Musk. Chào mừng đến với Palo Alto, quê hương của kỹ thuật Tesla. Bạn biết đấy, người ta nói tiền không mua được hạnh phúc, và đúng vậy, tôi đoán điều đó đúng. Chúa biết tôi đã cố gắng. Nhưng nó có thể mua một chiếc Cybertruck, và điều đó khá tuyệt, đúng không? Đúng không? Chết tiệt, tôi thật sự cô đơn."

• "Xin chào, tôi là Elon. Chúng ta có thể làm bạn không? Bạn sẽ làm bạn với tôi chứ? Tôi sẽ tặng bạn một chiếc Cybertruck, tôi hứa. Được rồi, nghe này, bạn không biết tôi sẵn sàng hạ mình đến mức nào chỉ để có được một chút sự công nhận."

Một video thậm chí còn có sự xuất hiện của một giọng nói bắt chước cựu Tổng thống Donald Trump, chế giễu mối liên hệ của Musk với ông ta:

• "Không phải Musk: Bạn biết đấy, điều buồn cười là tôi từng nghĩ anh ta chỉ là một kẻ ngu ngốc. Nhưng khi bạn quen anh ta, anh ta thực sự khá ngọt ngào, dịu dàng và đáng yêu."

• "Không phải Trump: Cưng ơi, quay lại giường đi."

Video có giọng nói mô phỏng của Mark Zuckerberg

Một video từ Palo Alto Online đã cho thấy giọng nói giả mạo của Zuckerberg nói:

• "Này, đây là Zuck. Tôi chỉ muốn nói với bạn rằng tôi rất tự hào về mọi thứ chúng ta đã xây dựng cùng nhau. Từ việc làm suy yếu nền dân chủ đến việc nấu chín bộ não của ông bà chúng ta bằng nội dung AI kém chất lượng, đến — đến việc khiến thế giới kém an toàn hơn cho người chuyển giới. Không ai làm tốt hơn chúng ta, và, ừ, tôi nghĩ điều đó khá tuyệt. Zuck chào!"

Các video khác với giọng nói mô phỏng của Zuckerberg cũng chứa cùng một thông điệp:

• "Xin chào, đây là Mark Zuckerberg, nhưng những người thân thiết gọi tôi là ‘the Zuck.’ Bạn biết đấy, cảm thấy khó chịu hoặc thậm chí bị xâm phạm là điều bình thường khi chúng tôi mạnh mẽ đưa AI vào mọi, mọi khía cạnh của trải nghiệm ý thức của bạn. Và tôi chỉ muốn đảm bảo với bạn, bạn không cần phải lo lắng, bởi vì không có gì bạn có thể làm để ngăn chặn nó. Dù sao, hẹn gặp lại."

Những sự cố này làm nổi bật các lỗ hổng tiềm tàng trong cơ sở hạ tầng công cộng và những cách sử dụng công nghệ sáng tạo nhưng đáng lo ngại.