AI World : 개인 정보를 염두에두고 설계

인공지능은 일상생활부터 획기적인 의료 발전에 이르기까지 모든 것을 변화시킬 수 있는 힘을 가지고 있습니다. 하지만 AI의 잠재력을 진정으로 활용하려면 책임감을 최우선으로 하여 개발에 접근해야 합니다.

이 때문에 생성 AI와 프라이버시에 대한 논의가 매우 중요합니다. 우리는 혁신의 최전선에서 얻은 통찰력과 규제 기관 및 기타 전문가들과의 깊은 참여를 통해 이 대화에 기여하고자 합니다.

우리의 새로운 정책 작업 논문 “생성 AI와 프라이버시”에서, 우리는 AI 제품이 사용자 안전과 프라이버시를 처음부터 우선시하는 내장된 보호 장치를 포함해야 한다고 주장합니다. 또한 프라이버시 문제를 해결하면서도 AI가 번창하고 사회에 이익을 가져올 수 있도록 하는 정책 전략을 제안합니다.

AI에서의 프라이버시 중심 설계

AI는 개인과 사회에 큰 이익을 약속하지만, 우리의 연구와 다른 연구들이 보여주듯이 기존의 도전 과제를 증폭시키고 새로운 문제를 초래할 수도 있습니다.

프라이버시도 마찬가지입니다. 투명성과 통제력을 보장하고 개인 정보의 의도치 않은 공개와 같은 위험을 완화하는 보호 장치를 포함하는 것이 필수적입니다.

이를 위해서는 개발 단계부터 배포까지, 시간의 검증을 거친 원칙에 기반한 견고한 프레임워크가 필요합니다. AI 도구를 개발하는 모든 조직은 명확한 프라이버시 전략을 가져야 합니다.

우리의 접근 방식은 오랜 데이터 보호 관행, 우리의 프라이버시 및 보안 원칙, 책임 있는 AI 관행, 그리고 AI 원칙에 의해 형성됩니다. 이는 우리가 강력한 프라이버시 보호 장치와 데이터 최소화 기술을 마련하고, 데이터 관행에 대한 투명성을 제공하며, 사용자가 정보에 기반한 결정을 내리고 정보를 관리할 수 있도록 하는 제어 장치를 제공한다는 것을 의미합니다.

위험을 효과적으로 줄이기 위한 AI 응용 프로그램에 집중

우리가 확립된 프라이버시 원칙을 생성 AI에 적용할 때, 고려해야 할 중요한 질문들이 있습니다.

예를 들어, 방대한 양의 데이터로 모델을 훈련시킬 때 데이터 최소화를 어떻게 실천할 수 있을까요? 복잡한 모델에 대해 개별 우려를 해결하는 의미 있는 투명성을 제공하는 가장 좋은 방법은 무엇일까요? 그리고 AI 기반 세상에서 청소년들에게 적합한 경험을 어떻게 만들 수 있을까요?

우리의 논문은 이러한 주제에 대한 초기 생각을 제공하며, 모델 개발의 두 가지 주요 단계에 초점을 맞춥니다:

• 훈련 및 개발
• 사용자 중심 응용 프로그램

훈련 및 개발 중에는 이름이나 전기적 세부 정보와 같은 개인 데이터가 훈련 데이터의 작지만 중요한 부분을 형성합니다. 모델은 이 데이터를 사용하여 언어가 인간 관계와 주변 세계에 대한 추상적 개념을 어떻게 포착하는지 이해합니다.

이러한 모델은 “데이터베이스”가 아니며 개인을 식별하기 위한 것도 아닙니다. 실제로 개인 데이터를 포함하면 다양한 문화에서 온 이름을 더 잘 이해함으로써 편견을 줄이고 모델 정확도와 성능을 개선할 수 있습니다.

응용 프로그램 수준에서는 데이터 유출과 같은 프라이버시 위험이 증가하지만, 보다 효과적인 보호 장치를 구현할 기회도 커집니다. 출력 필터와 자동 삭제와 같은 기능이 여기서 중요해집니다.

응용 프로그램 수준에서 이러한 보호 장치를 우선시하는 것은 실용적일 뿐만 아니라 우리가 믿기에 가장 효과적인 방법입니다.

혁신을 통한 프라이버시 달성

오늘날 AI 프라이버시 대화는 위험 완화에 초점을 맞추고 있으며, 이는 AI에 대한 신뢰 구축의 중요성을 고려할 때 당연합니다. 하지만 생성 AI는 사용자 프라이버시를 향상시킬 잠재력도 가지고 있습니다. 우리는 이러한 기회도 포착해야 합니다.

생성 AI는 이미 조직이 대규모 사용자 기반으로부터 프라이버시 피드백을 분석하고 규정 준수 문제를 발견하는 데 도움을 주고 있습니다. 이는 새로운 사이버 방어 전략의 길을 열고 있습니다. 합성 데이터와 차등 프라이버시와 같은 프라이버시 강화 기술은 개인 정보를 침해하지 않으면서 더 큰 사회적 이익을 제공하는 방법을 보여줍니다. 공공 정책과 산업 표준은 이러한 긍정적인 발전을 장려해야 하며, 의도치 않게 방해해서는 안 됩니다.

함께 노력해야 할 필요성

프라이버시 법은 적응 가능하고, 비례하며, 기술 중립적이도록 설계되어 시간이 지나도 견고하고 지속 가능하게 만듭니다.

AI 시대에도 동일한 원칙이 적용되며, 강력한 프라이버시 보호와 다른 기본 권리 및 사회적 목표 간의 균형을 추구합니다.

앞으로의 길은 프라이버시 커뮤니티 전반의 협력을 요구하며, Google은 생성 AI가 책임감 있게 사회에 이익을 가져오도록 다른 이들과 협력하는 데 전념하고 있습니다.

생성 AI와 프라이버시에 관한 우리의 정책 작업 논문을 [여기](link to paper)에서 읽을 수 있습니다.