Cơ quan AI UK đổi tên thành Viện An ninh, ký hợp đồng với nhân học

Chính phủ Anh đang thực hiện một sự thay đổi đáng kể trong cách tiếp cận AI, nhằm mục đích củng cố nền kinh tế và ngành công nghiệp thông qua công nghệ này. Là một phần của hướng đi mới này, Bộ Khoa học, Công nghiệp và Công nghệ đã công bố đổi thương hiệu của Viện An toàn AI, được thành lập chỉ hơn một năm trước, cho "Viện bảo mật AI". Sự thay đổi tên này phản ánh sự thay đổi tập trung từ các rủi ro và sự thiên vị hiện sinh trong AI sang các mối quan tâm về an ninh mạng, đặc biệt tăng cường các biện pháp bảo vệ chống lại các mối đe dọa liên quan đến AI đối với an ninh và tội phạm quốc gia. Kết hợp với việc đổi thương hiệu này, chính phủ đã tham gia vào một quan hệ đối tác mới với nhân học. Mặc dù các dịch vụ cụ thể chưa được chi tiết, bản ghi nhớ cho thấy việc khám phá việc sử dụng trợ lý AI của Anthropic, Claude, trong các dịch vụ công cộng. Nhân chủng học cũng sẽ đóng góp cho nghiên cứu khoa học và mô hình hóa kinh tế, và tại Viện bảo mật AI, nó sẽ cung cấp các công cụ để đánh giá rủi ro bảo mật của AI. Một người đồng sáng lập và CEO Dario Amodei cho biết, AI AI có khả năng chuyển đổi cách các chính phủ phục vụ công dân của họ. Chúng tôi mong muốn được khám phá làm thế nào mà Trợ lý AI của AI có thể giúp các cơ quan chính phủ Anh tăng cường các dịch vụ công cộng, với mục tiêu khám phá những cách mới để làm cho thông tin và dịch vụ quan trọng hiệu quả và dễ tiếp cận hơn với cư dân Vương quốc Anh. Anthropic là công ty duy nhất được nhấn mạnh trong thông báo ngày hôm nay, phù hợp với một tuần của các sự kiện liên quan đến AI ở Munich và Paris. Tuy nhiên, chính phủ Anh cũng đang làm việc với các công ty AI khác. Vào tháng 1, các công cụ mới do Openai cung cấp đã được giới thiệu và Peter Kyle, Bộ trưởng Ngoại giao Công nghệ, đã đề cập đến kế hoạch hợp tác với các công ty AI nền tảng khác nhau, một chiến lược được minh họa bằng thỏa thuận nhân học. Việc định hướng lại của Viện An toàn AI đối với Viện An ninh AI, ngay sau khi ra mắt, phù hợp với "Kế hoạch thay đổi" của chính phủ Lao động được công bố vào tháng 1. Kế hoạch này đáng chú ý bỏ qua các thuật ngữ như "an toàn", "tác hại", "hiện sinh" và "đe dọa", báo hiệu tập trung vào phát triển kinh tế thông qua AI thay vì chỉ là những lo ngại về an toàn. Sự thay đổi này không đáng ngạc nhiên, vì mục đích của chính phủ là kích thích đầu tư vào một nền kinh tế hiện đại hóa bằng AI. Chiến lược này bao gồm sự hợp tác chặt chẽ hơn với công nghệ lớn và thúc đẩy sự phát triển của những người khổng lồ công nghệ nhà. Các công chức sẽ có quyền truy cập vào một trợ lý AI tên là "Humphrey", và được khuyến khích sử dụng AI để tăng cường hiệu quả. Người tiêu dùng sẽ được hưởng lợi từ ví kỹ thuật số cho các tài liệu và chatbot của chính phủ. Mặc dù các vấn đề an toàn của AI chưa được giải quyết hoàn toàn, lập trường của chính phủ dường như là tiến bộ không nên bị cản trở bởi những lo ngại về an toàn. Mặc dù thay đổi tên, chính phủ khẳng định rằng nhiệm vụ cốt lõi vẫn không thay đổi. Những thay đổi mà tôi thông báo hôm nay đại diện cho bước tiếp theo hợp lý trong cách chúng tôi tiếp cận phát triển AI có trách nhiệm - giúp chúng tôi giải phóng AI và phát triển nền kinh tế như một phần trong kế hoạch thay đổi của chúng tôi, ông Kyle Kyle tuyên bố. Công việc của Viện An ninh AI sẽ không thay đổi, nhưng trọng tâm được đổi mới này sẽ đảm bảo công dân của chúng tôi - và những người đồng minh của chúng tôi - được bảo vệ khỏi những người sẽ tìm cách sử dụng AI chống lại các tổ chức, giá trị dân chủ và cách sống của chúng tôi. Ian Hogarth, người tiếp tục chủ trì viện, nói thêm, tập trung của Viện ngay từ đầu là an ninh và chúng tôi đã xây dựng một nhóm các nhà khoa học tập trung vào việc đánh giá rủi ro nghiêm trọng cho công chúng. Trên toàn cầu, sự nhấn mạnh vào sự an toàn của AI dường như đang thay đổi. Tại Mỹ, Viện An toàn AI phải đối mặt với nguy cơ bị dỡ bỏ, một khả năng được ám chỉ bởi Phó Tổng thống JD Vance trong một bài phát biểu ở Paris.

Bài viết liên quan

Nhận xét (30)