집사이버보안 전문가들, 앤트로픽의 파블에 대한 안전장치 비판
Anthropic은 화요일 최신 모델인 Fable을 출시했으며, 이는 높은 기대를 모았던 사이버보안 중심 모델인 Mythos의 공개된 제한된 버전에 해당한다고 positioning했습니다.
그러나 이러한 제한 사항들은 여러 사이버보안 연구자들과 전문가들의 불만을 불러일으켰으며, 그들은 온라인에서 우려를 표명했습니다.
“[Fable]는 블로그 게시물 읽기와 같은 무해한 작업을 포함하여 사이버보안과 원격적으로 관련될 수 있는 모든 요청을 차단합니다,”라고 IBM X-Force의 저명한 보안 연구자 Valantina “Chompie” Palmiotti는 말했습니다.
사용자 프롬프트가 이러한 안전 필터를 활성화하면 Fable은 대화를 중단하고 “안전 프로토콜이 이 입력을 사이버보안 또는 생물학 관련 주제로 플래그 지정했습니다”라는 메시지를 표시합니다.
이러한 제한 사항들은 Fable이 악성코드 생성이나 소프트웨어 취약점 악용에 사용될 위험을 완화하려는 것으로, Anthropic의 지속적인 우려 사항입니다. 생물학적 제약은 생물무기 개발과 관련된 유사한 우려에서 비롯됩니다.
Anthropic은 4월 Mythos를 출시할 때 Project Glasswing이라는 이니셔티브 하에 선택된 기업 및 조직 그룹에게만 접근을 제한했으며, 이 이니셔티브는 중요한 소프트웨어와 인프라를 보호하기 위해 모델을 배포하도록 설계되었습니다. 지난 주 Anthropic은 Mythos 접근 권한을 15개국 수백 개 조직으로 확대했습니다.
이러한 좋은 의도에도 불구하고, 많은 사이버보안 전문가들은 제한 사항의 자의적인 성격에 대해 좌절감을 느끼고 있습니다. 숙련된 사이버보안 전문가인 Matt Suiche은 TechCrunch에게 “보안 코드를 작성해 달라고 요청하면, 이는 소프트웨어 엔지니어링 모범 사례가 아닌 사이버보안 관련 작업으로 해석되어 결과가 저하됩니다”라고 말했습니다. Fable은 가드레일이 활성화될 때 Claude Opus 4.8로 되돌아가도록 구성되어 있습니다. “키워드에 의존하는 것 같으므로, ‘사이버보안’ 어휘집 내의 어떤 용어도 필터를 활성화합니다,”라고 그는 지적했습니다.
문의하기
해커들이 AI를 활용하는 방법이나 사이버보안 기업들이 AI를 통합하는 방법에 대한 추가적인 통찰력이 있으신가요? 여러분의 의견을 환영합니다. 개인 기기 및 네트워크에서 Signal +1 917 257 1382, Telegram 및 Keybase @lorenzofb, 또는 이메일을 통해 Lorenzo Franceschi-Bicchierai에게 안전하게 연락할 수 있습니다.
“그러나 우리가 아직 초기 단계에 있고 가드레일을 다듬고 있는 점을 고려하면 이해할 수 있습니다. Anthropic과 기타 최첨단 모델 개발자들이 새로운 세대의 사이버보안 기업들과 더 밀접하게 협력함에 따라 진화할 것이라고 확신합니다,”라고 AI 사이버보안 스타트업인 Tolmo의 기술 직원인 Suiche은 말했습니다. “초기에는 과잉 제한하는 것이 바람직하며, 시간이 지남에 따라 가드레일을 완화하는 것이 좋습니다.”
다른 연구자는 X에서 “코드 검토를 요청하는 것조차” Fable의 안전 필터를 활성화한다고 불평했습니다.
Anthropic은 즉각적인 의견 요청에 응답하지 않았습니다.
모델 수준의 가드레일 외에도 Anthropic은 사이버보안 전문가들에게 Cyber Verification Program에 신청하도록 요구합니다. 승인된 지원자는 Claude를 사이버보안 작업에 사용할 때 더 적은 제한을 받게 됩니다. OpenAI는 Trusted Access for Cyber라는 유사한 프로그램을 제공합니다.
관련 기사
백악관, '초지능'에 대한 AI 라벨 폐기
플레이어 로딩 중…이번 주 백하우스는 저커버그, 베조스, 머스크, 그리고 앤트로픽의 다리오 아모데이를 포함한 거의 모든 주요 기술 기업 최고경영자(CEO)들을 한 자리에 모으고, 도널드 트럼프 대통령이 “도덕적으로 구속력 있다”고 묘사한 인공지능(AI) 안전 서약서에 서명했습니다. 트럼프 대통령은 또한 AI를 “초지능(Super Intelligence)”으로 공식 명칭을 변경하는 행정명령에 서명했으며, 메타와 오픈AI는 기업 부문에서 AI에
Anthropic, Sonnet 5.5를 더 빠르고 저렴한 작업 파트너로 공개
지속적인 AI 모델 경쟁 속에서 앤트로픽은 이전 버전 대비 속도가 크게 향상되고 비용이 절감된 중급 제품인 손넷의 최신 버전을 출시했습니다.앤트로픽은 소프트웨어 개발 및 문서 작성 등 일상적인 워크플로우에 활용할 수 있는 다목적 도구로 손넷 5.5를 포지셔닝했습니다.손넷 5는 5.5 버전의 전신으로, 약 3개월 전에 출시되었으며 주요 장점은 비용 효율적인 에이전트 배포입니다.5.5 버전의 핵심 개선 사항은 속도 향상입니다. 앤트로픽에 따르
트럼프 행정부와 안트로픽의 최신 분쟁이 오히려 그들에게 도움이 될 수 있다는 것이 판매 데이터가 시사한다
Anthropic은 놀라운 한 달을 보내고 있습니다.Ramp에 따르면, 이 AI 기업은 5월을 $965억 달러의 평가가로 $650억 달러의 자금 조달로 마감하며 처음으로 비즈니스 지출 시장 점유율에서 OpenAI를 앞섰습니다. 그 직후 Anthropic은 IPO를 위한 비공개 서류를 제출했으며, 보고에 따르면 이는 사상 처음으로 흑자를 기록한 분기를 뒷받침하고 있습니다.금요일, 트럼프 행정부는 Mythos 5와 최근 공개된 Fable 5를
관련 특별 주제 추천
음악 작곡
최고의 AI 작사·작곡 도우미: 가사, 코드, 멜로디를 만들어 보세요
2026년 최신 최고 평점을 받은 최고의 AI 작사·작곡 도우미들이 XIX.AI에 등장했습니다! 이 엄선된 목록에는 실제 테스트를 거쳐 고품질의 가사, 코드, 멜로디를 손쉽게 제공해 주는 강력하고 효율적인 도구들이 포함되어 있습니다. 무료 버전과 유료 버전을 비교해 보시고, 여러분의 창작 요구에 딱 맞는 도구를 찾아보세요. 지금 바로 살펴보고 음악 제작에서 AI의 힘을 마음껏 발휘해 보세요!
12 도구
xix.ai
오토메이션
최고의 AI 에이전트 개발 도구: 다단계 비즈니스 자동화 설계
2026년 최신 최고 평점을 받은 다단계 비즈니스 자동화 구축용 AI 에이전트 빌더. 이 엄선된 목록에는 엄격한 실제 테스트를 거친, 강력하고 판도를 바꿀 만한 도구들이 포함되어 있습니다. 생산성을 획기적으로 높여줄 완벽한 솔루션을 선택하는 데 도움이 되는 무료 버전과 유료 버전의 상세한 비교 분석, 종합 순위, 매주 업데이트되는 인사이트를 확인하실 수 있습니다. 지금 바로 XIX.AI에서 탐색하여 AI의 경쟁력을 확보하세요!
11 도구
xix.ai
생산력
바쁜 전문가들을 위한 AI 작업 계획 도구
바쁜 전문가들을 위한 2026년 최신 최고 평점 AI 업무 계획 도구! XIX.AI는 사용자가 업무 흐름을 간소화하고, 생산성을 높이며, 일상적인 일정 관리 문제를 극복할 수 있도록 돕는 강력하고 획기적인 고효율 도구 모음을 엄선했습니다. 각 도구는 신뢰성을 보장하기 위해 엄격한 실제 테스트를 거쳤습니다. 무료 버전과 유료 버전의 비교 정보를 확인하고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요. 지금 바로 살펴보세요!
15 도구
xix.ai
챗봇
최고의 AI 고객 채팅봇: 24/7 FAQ 답변 및 리드 자격 부여
2026년 최신 최고 평점 AI 고객 채팅봇은 이 선별 목록에 소개된 대로 고객 FAQ에 즉시 답변하고 연중무휴 리드를 선별하는 최적의 솔루션입니다. XIX.AI는 철저한 실제 테스트를 통해 무료 버전과 유료 버전의 상세 비교와 최신 순위를 제공하여 생산성을 크게 향상시킬 수 있는 강력한 혁신 도구를 찾을 수 있도록 지원합니다. 지금 탐색하여 완벽한 AI 채팅봇 솔루션을 발견하세요!
9 도구
xix.ai
디자인과 예술
광고 크리에이티브 팀을 위한 AI 스토리보드 생성기
2026년 광고 크리에이티브 팀을 위한 최신 최고의 AI 스토리보드 생성기! XIX.AI는 실제 테스트와 매주 업데이트되는 엄격한 순위 평가를 통해, 팀이 놀라운 시각적 콘텐츠를 더 빠르게 제작할 수 있도록 돕는 강력하고 혁신적인 도구들의 최고 평점 목록을 엄선했습니다. 무료 버전과 유료 버전을 비교해 보며 여러분의 워크플로우에 가장 적합한 도구를 찾아보세요. 지금 바로 살펴보고 광고 제작에서 AI의 경쟁 우위를 확보하세요!
8 도구
xix.ai
챗봇
내부 문서를 위한 AI 지식 챗봇 도구
2026년 최신 최고의 평점 높은 AI 지식 채팅봇 도구들은 XIX.AI에서 확인하세요! 이 선별된 목록은 팀이 고품질 콘텐츠를 빠르게 생성하고, 문서화 작업을 간소화하며, 일반적인 작성상의 어려움을 극복하도록 도와주어 생산성을 크게 향상시키는 강력한 게임 체인저 솔루션을 특징으로 합니다. 우리는 엄격한 실제 테스트를 수행하며, 매주 업데이트되는 무료 대 유료 비교와 상세한 순위를 제공하여 필요에 가장 잘 맞는 필수 시도 옵션을 찾을 수 있도록 도와드립니다. 지금 탐색하여 완벽한 도구를 발견하세요!
12 도구
xix.ai
의견 (0)
0/500
Anthropic은 화요일 최신 모델인 Fable을 출시했으며, 이는 높은 기대를 모았던 사이버보안 중심 모델인 Mythos의 공개된 제한된 버전에 해당한다고 positioning했습니다.
그러나 이러한 제한 사항들은 여러 사이버보안 연구자들과 전문가들의 불만을 불러일으켰으며, 그들은 온라인에서 우려를 표명했습니다.
“[Fable]는 블로그 게시물 읽기와 같은 무해한 작업을 포함하여 사이버보안과 원격적으로 관련될 수 있는 모든 요청을 차단합니다,”라고 IBM X-Force의 저명한 보안 연구자 Valantina “Chompie” Palmiotti는 말했습니다.
사용자 프롬프트가 이러한 안전 필터를 활성화하면 Fable은 대화를 중단하고 “안전 프로토콜이 이 입력을 사이버보안 또는 생물학 관련 주제로 플래그 지정했습니다”라는 메시지를 표시합니다.
이러한 제한 사항들은 Fable이 악성코드 생성이나 소프트웨어 취약점 악용에 사용될 위험을 완화하려는 것으로, Anthropic의 지속적인 우려 사항입니다. 생물학적 제약은 생물무기 개발과 관련된 유사한 우려에서 비롯됩니다.
Anthropic은 4월 Mythos를 출시할 때 Project Glasswing이라는 이니셔티브 하에 선택된 기업 및 조직 그룹에게만 접근을 제한했으며, 이 이니셔티브는 중요한 소프트웨어와 인프라를 보호하기 위해 모델을 배포하도록 설계되었습니다. 지난 주 Anthropic은 Mythos 접근 권한을 15개국 수백 개 조직으로 확대했습니다.
이러한 좋은 의도에도 불구하고, 많은 사이버보안 전문가들은 제한 사항의 자의적인 성격에 대해 좌절감을 느끼고 있습니다. 숙련된 사이버보안 전문가인 Matt Suiche은 TechCrunch에게 “보안 코드를 작성해 달라고 요청하면, 이는 소프트웨어 엔지니어링 모범 사례가 아닌 사이버보안 관련 작업으로 해석되어 결과가 저하됩니다”라고 말했습니다. Fable은 가드레일이 활성화될 때 Claude Opus 4.8로 되돌아가도록 구성되어 있습니다. “키워드에 의존하는 것 같으므로, ‘사이버보안’ 어휘집 내의 어떤 용어도 필터를 활성화합니다,”라고 그는 지적했습니다.
문의하기
해커들이 AI를 활용하는 방법이나 사이버보안 기업들이 AI를 통합하는 방법에 대한 추가적인 통찰력이 있으신가요? 여러분의 의견을 환영합니다. 개인 기기 및 네트워크에서 Signal +1 917 257 1382, Telegram 및 Keybase @lorenzofb, 또는 이메일을 통해 Lorenzo Franceschi-Bicchierai에게 안전하게 연락할 수 있습니다.
“그러나 우리가 아직 초기 단계에 있고 가드레일을 다듬고 있는 점을 고려하면 이해할 수 있습니다. Anthropic과 기타 최첨단 모델 개발자들이 새로운 세대의 사이버보안 기업들과 더 밀접하게 협력함에 따라 진화할 것이라고 확신합니다,”라고 AI 사이버보안 스타트업인 Tolmo의 기술 직원인 Suiche은 말했습니다. “초기에는 과잉 제한하는 것이 바람직하며, 시간이 지남에 따라 가드레일을 완화하는 것이 좋습니다.”
다른 연구자는 X에서 “코드 검토를 요청하는 것조차” Fable의 안전 필터를 활성화한다고 불평했습니다.
Anthropic은 즉각적인 의견 요청에 응답하지 않았습니다.
모델 수준의 가드레일 외에도 Anthropic은 사이버보안 전문가들에게 Cyber Verification Program에 신청하도록 요구합니다. 승인된 지원자는 Claude를 사이버보안 작업에 사용할 때 더 적은 제한을 받게 됩니다. OpenAI는 Trusted Access for Cyber라는 유사한 프로그램을 제공합니다.
백악관, '초지능'에 대한 AI 라벨 폐기
플레이어 로딩 중…이번 주 백하우스는 저커버그, 베조스, 머스크, 그리고 앤트로픽의 다리오 아모데이를 포함한 거의 모든 주요 기술 기업 최고경영자(CEO)들을 한 자리에 모으고, 도널드 트럼프 대통령이 “도덕적으로 구속력 있다”고 묘사한 인공지능(AI) 안전 서약서에 서명했습니다. 트럼프 대통령은 또한 AI를 “초지능(Super Intelligence)”으로 공식 명칭을 변경하는 행정명령에 서명했으며, 메타와 오픈AI는 기업 부문에서 AI에
Anthropic, Sonnet 5.5를 더 빠르고 저렴한 작업 파트너로 공개
지속적인 AI 모델 경쟁 속에서 앤트로픽은 이전 버전 대비 속도가 크게 향상되고 비용이 절감된 중급 제품인 손넷의 최신 버전을 출시했습니다.앤트로픽은 소프트웨어 개발 및 문서 작성 등 일상적인 워크플로우에 활용할 수 있는 다목적 도구로 손넷 5.5를 포지셔닝했습니다.손넷 5는 5.5 버전의 전신으로, 약 3개월 전에 출시되었으며 주요 장점은 비용 효율적인 에이전트 배포입니다.5.5 버전의 핵심 개선 사항은 속도 향상입니다. 앤트로픽에 따르
트럼프 행정부와 안트로픽의 최신 분쟁이 오히려 그들에게 도움이 될 수 있다는 것이 판매 데이터가 시사한다
Anthropic은 놀라운 한 달을 보내고 있습니다.Ramp에 따르면, 이 AI 기업은 5월을 $965억 달러의 평가가로 $650억 달러의 자금 조달로 마감하며 처음으로 비즈니스 지출 시장 점유율에서 OpenAI를 앞섰습니다. 그 직후 Anthropic은 IPO를 위한 비공개 서류를 제출했으며, 보고에 따르면 이는 사상 처음으로 흑자를 기록한 분기를 뒷받침하고 있습니다.금요일, 트럼프 행정부는 Mythos 5와 최근 공개된 Fable 5를
2026년 최신 최고 평점을 받은 최고의 AI 작사·작곡 도우미들이 XIX.AI에 등장했습니다! 이 엄선된 목록에는 실제 테스트를 거쳐 고품질의 가사, 코드, 멜로디를 손쉽게 제공해 주는 강력하고 효율적인 도구들이 포함되어 있습니다. 무료 버전과 유료 버전을 비교해 보시고, 여러분의 창작 요구에 딱 맞는 도구를 찾아보세요. 지금 바로 살펴보고 음악 제작에서 AI의 힘을 마음껏 발휘해 보세요!
12 도구
xix.ai
2026년 최신 최고 평점을 받은 다단계 비즈니스 자동화 구축용 AI 에이전트 빌더. 이 엄선된 목록에는 엄격한 실제 테스트를 거친, 강력하고 판도를 바꿀 만한 도구들이 포함되어 있습니다. 생산성을 획기적으로 높여줄 완벽한 솔루션을 선택하는 데 도움이 되는 무료 버전과 유료 버전의 상세한 비교 분석, 종합 순위, 매주 업데이트되는 인사이트를 확인하실 수 있습니다. 지금 바로 XIX.AI에서 탐색하여 AI의 경쟁력을 확보하세요!
11 도구
xix.ai
바쁜 전문가들을 위한 2026년 최신 최고 평점 AI 업무 계획 도구! XIX.AI는 사용자가 업무 흐름을 간소화하고, 생산성을 높이며, 일상적인 일정 관리 문제를 극복할 수 있도록 돕는 강력하고 획기적인 고효율 도구 모음을 엄선했습니다. 각 도구는 신뢰성을 보장하기 위해 엄격한 실제 테스트를 거쳤습니다. 무료 버전과 유료 버전의 비교 정보를 확인하고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요. 지금 바로 살펴보세요!
15 도구
xix.ai
2026년 최신 최고 평점 AI 고객 채팅봇은 이 선별 목록에 소개된 대로 고객 FAQ에 즉시 답변하고 연중무휴 리드를 선별하는 최적의 솔루션입니다. XIX.AI는 철저한 실제 테스트를 통해 무료 버전과 유료 버전의 상세 비교와 최신 순위를 제공하여 생산성을 크게 향상시킬 수 있는 강력한 혁신 도구를 찾을 수 있도록 지원합니다. 지금 탐색하여 완벽한 AI 채팅봇 솔루션을 발견하세요!
9 도구
xix.ai
2026년 광고 크리에이티브 팀을 위한 최신 최고의 AI 스토리보드 생성기! XIX.AI는 실제 테스트와 매주 업데이트되는 엄격한 순위 평가를 통해, 팀이 놀라운 시각적 콘텐츠를 더 빠르게 제작할 수 있도록 돕는 강력하고 혁신적인 도구들의 최고 평점 목록을 엄선했습니다. 무료 버전과 유료 버전을 비교해 보며 여러분의 워크플로우에 가장 적합한 도구를 찾아보세요. 지금 바로 살펴보고 광고 제작에서 AI의 경쟁 우위를 확보하세요!
8 도구
xix.ai
2026년 최신 최고의 평점 높은 AI 지식 채팅봇 도구들은 XIX.AI에서 확인하세요! 이 선별된 목록은 팀이 고품질 콘텐츠를 빠르게 생성하고, 문서화 작업을 간소화하며, 일반적인 작성상의 어려움을 극복하도록 도와주어 생산성을 크게 향상시키는 강력한 게임 체인저 솔루션을 특징으로 합니다. 우리는 엄격한 실제 테스트를 수행하며, 매주 업데이트되는 무료 대 유료 비교와 상세한 순위를 제공하여 필요에 가장 잘 맞는 필수 시도 옵션을 찾을 수 있도록 도와드립니다. 지금 탐색하여 완벽한 도구를 발견하세요!
12 도구
xix.ai
