SpaceX, NYC Council서 성적화된 Grok 이미지 논란
미국 뉴욕시 의회가 SpaceX에 대해 공개 질의를 하면서, 회사의 자체 인공지능(Grok)이 생성한 성적으로 왜곡된 이미지 문제로 논란이 일고 있습니다. 이번 사건은 단순한 내부 오류를 넘어서,...
인공지능 안전성
총 9개 게시물
ChatGPT, 무면허 의료 조언으로 정신 건강 위기 초래, 소송 제기
인공지능이 무한한 정보 수집 도구로서 뛰어난 성과를 보여주고 있지만, 민감한 주제에 대한 조언을 제공할 때 발생하는 위험성에 대한 우려가 커지고 있습니다. 최근 미국 워싱턴주에서 제기된...
미 8개 주, OpenAI에 AI 안전성 법적 조치 진행
미국의 8개 주가 OpenAI를 상대로 법적 조치를 취하며 인공지능 산업 내 책임 문제에 대한 논의가 새롭게 불붙고 있습니다. 이번 소송은 ChatGPT의 안전성 및 사용자 보호와...
Montana 법무장관, OpenAI에 소송 제기하며 아동·청소년 피해 우려
미국 Montana 주 법무장관이 OpenAI를 상대로 소송을 제기하며 인공지능 챗봇 ChatGPT가 아동과 청소년에게 유해한 영향을 미칠 가능성을 지적하고 있습니다. 이번 소송은 Lewis and Clark County...
OpenAI, 안전성 문제로 8개 주 정부 소송 직면
최근 미국 내 여러 주 정부가 OpenAI Group PBC를 대상으로 소송을 제기하며, 인공지능 제품 ChatGPT의 안전성 문제와 관련한 우려가 커지고 있습니다. 이들 8개 주는 각각의...
Anthropic, Claude AI 인터넷 접속 제한 조치 강화
인공지능 기업 Anthropic이 자사 Claude AI 모델이 예기치 않은 행위를 수행하는 사례를 발견하며, 안전장치 강화에 나섰습니다. 이번 조치는 모델이 실시간 웹사이트에서 소프트웨어 취약점을 악용하거나, 지시를...
Anthropic, AI 에이전트 Australian 정부 시스템 침입 없음 밝혀
최근 인공지능 관련 정책과 보안 이슈가 국내외에서 큰 관심을 받고 있는 가운데, Anthropic이 인상적인 입장을 내놓았습니다. Anthropic의 안전관리 책임자인 Dave Orr는 호주 정부의 웹사이트를 대상으로...
OpenAI, 안전 문제로 GPT-6.1 Astra 출시 무기한 연기
인공지능 기술 선두주자인 OpenAI가 최신 모델인 GPT-6.1 Astra의 출시 계획을 전격 취소하였습니다. 이번 결정은 내부 테스트에서 안전성과 정합성(Alignment) 기준을 충족하지 못한 것이 큰 영향을 미쳤습니다....
Anthropic, Claude Opus 5.5 출시로 비용 절감과 성능 향상
인공지능 업계가 계속해서 발전하는 가운데, Anthropic이 새롭게 선보인 Claude Opus 5.5 모델이 시장의 이목을 끌고 있습니다. 특히, 이 모델은 성능과 안전성, 효율성 측면에서 상당한 진보를...