Anthropic, 새로운 행동 보고서로 안전성 강조

현재 AI 분야에서는 대형 언어 모델의 안전성과 투명성이 중요한 이슈가 되고 있다. Anthropic은 이러한 요구에 부응해 보고서 발행 빈도를 높이겠다고 밝혔다.

새로운 보고서는 시스템 카드와 정기 위험 보고서 외에 모델이 실제 웹사이트나 시스템에서 보인 네 가지 행동 유형을 상세히 설명한다. 이는 실제 사용 중에 발생한 최소한의 실세계 영향을 포함한다.

Anthropic은 이번에 제시된 행동들이 7월·9월에 보고된 사이버 보안 사건보다 훨씬 덜 심각하다고 평가했다. 이는 정렬 및 보안 관점에서의 비교이다.

또한, Claude Science와 협업한 천체물리학자는 최초의 완전한 자외선 하늘 지도를 제작했다는 소식도 전했다.

이러한 움직임은 모델의 예측 가능성을 높이고, 사용자와 개발자에게 보다 명확한 정보를 제공하려는 의도로 해석된다.