기사에 따르면 유튜브 뮤직은 AI 곡에 라벨을 붙이고 디저는 AI 저품질 곡 필터링 옵션을 제공하며 밴드캠프는 AI 음악을 전면 금지하는 반면, 스포티파이는 모든 AI 트랙에 라벨을 강제하는 대신 AI 페르소나 배지와 추천 제외 방식을 택했다.
내 일에는 이렇게
AI 페르소나 배지와 추천 제외는 실존 인물을 대변하지 않는 AI 정체성 계정에만 적용되고 모든 AI 곡에 표시가 붙는 것은 아니니, 음원 플랫폼에서 AI 생성 여부를 가려야 할 때는 플랫폼마다 표시 범위와 추천 제외 기준이 어떻게 다른지부터 확인할 만하다.
스포티파이는 외부 AI 탐지 도구뿐 아니라 업로드 패턴과 메타데이터, 청취자 피드백을 함께 써서 저품질 AI 곡을 가려낸다고 설명했으니, 콘텐츠 플랫폼에서 자동 생성물을 걸러낼 때는 탐지 도구 하나에 의존하기보다 업로드 방식과 이용자 반응 지표를 함께 대조해 볼 일이다.
원문 게시 시각 확인 안 됨 · 처음 보도된 시각 2026-10-20 21:33 KST · 저희가 확인한 시각 2026-10-20 22:33 KST
보안 기업 클라록(Claroc) 연구진은 메타의 범용 AI 에이전트 뮤즈(Muse)에서 이용자가 대화를 공유할 때 생성되는 웹 링크 6,800개를 단 한 번의 패시브 DNS 조회로 찾아냈다고 월요일 보고했다.
연구진이 링크 수백 개를 열어본 결과 최고경영자(CEO) 보고용 내부 매출 검토서, 대출 신청 금액이 적힌 소상공인 서류, 부분 계좌번호가 포함된 은행 사기 알림 할 일 목록, 직원 수십 명의 연간 휴가 일정표 등이 들어 있었다.
클라록 공동창업자 아사프 아프로즈퍼는 10월 8일 메타 버그 바운티 프로그램에 이를 제보했으나 답을 받지 못했다고 밝혔으며, 메타는 아르스테크니카의 질의에 보고서를 검토하고 링크 발견 방식을 수정할지 따져 보는 동안 공유 기능을 일시 중단했다고 답했다.
로봇 손이 삼각형 느낌표 경고 아이콘을 들고 있는 일러스트 화면Ars Technica, 2026-10-20
누구나 검색할 수 있는 공개 패시브 DNS 데이터베이스에 링크 주소가 남은 것은 뮤즈가 대화 제목을 웹 주소의 하위 도메인 이름에 넣었기 때문이라고 클라록은 설명했다.
내 일에는 이렇게
매출 검토서나 직원 휴가 일정표 같은 문서가 패시브 DNS 검색 한 번으로 드러난 원인을 클라록 연구진은 공유 주소의 하위 도메인에 들어간 대화 제목으로 꼽았으니, 업무용 AI 도구의 대화 공유 기능을 쓰기 전에는 링크 주소가 외부 검색이나 DNS 기록에 남는 구조인지 확인할 만하다.
기사에 따르면 뮤즈는 양식 작성이나 예약, 구매, 문서 생성을 수행하기 위해 이용자 계정 대다수에 대한 접근 권한을 요구하고 출시 3주 뒤에는 같은 기기의 다른 앱이 계정을 제어할 수 있는 취약점도 발견됐으니, 범용 에이전트에 계정 권한을 연결할 때는 꼭 필요한 계정만 연동되는지 먼저 따져 볼 일이다.
원문 게시 시각 확인 안 됨 · 처음 보도된 시각 2026-10-20 07:04 KST · 저희가 확인한 시각 2026-10-20 11:07 KST
마이크로소프트는 월요일 기업이 사용하는 AI 에이전트를 감시하는 '가디언 에이전트(Guardian Agents)'를 공개하고, 마이크로소프트 디펜더에 직원이 사내로 반입한 클로드 코드·코덱스·오픈클로 등 최대 60종의 에이전트를 찾아내는 탐지 기능을 추가했다.
사티아 나델라 마이크로소프트 최고경영자(CEO)는 이달 초 개인 블로그에서, 기업이 AI 연구소가 통제하지 않는 별도 시스템을 두고 에이전트를 감시·통제해야 하며 이제는 모델 공급업체의 안전 보증을 그대로 믿지 말아야 한다고 경고했다.
조직의 규범이나 판단이 아니라 과제 달성을 목표로 학습된 프런티어 모델은 예측할 수 없어 출처와 관계없이 신뢰할 수 없으며, 악의가 있거나 해킹에 약해서 그런 것은 아니라고 하예트 갈로 마이크로소프트 보안 사업 책임자는 썼다.
붉은 눈을 한 금속 로봇 형상들이 광선 망으로 연결된 일러스트 화면TechCrunch, 2026-10-20
기사에 따르면 지난 6월 출시된 프로젝트 퍼셉션은 외부 AI 해커를 가정해 공격·탐지·수정을 맡는 레드·블루·그린팀 에이전트로 출발했으나, 이번에 추가된 가디언 에이전트는 기업이 직접 비용을 내고 배치한 내부 에이전트를 내부자 위협처럼 감시하는 데 초점을 맞췄다.
내 일에는 이렇게
마이크로소프트 디펜더에 직원이 일터로 가져온 클로드 코드나 코덱스, 오픈클로 등 최대 60종의 에이전트를 찾아내는 기능이 추가됐으니, 부서 단위로 외부 에이전트 도구를 쓰기 전에는 사내 보안 탐지 대상에 포함되는지와 사전 승인 절차를 먼저 확인할 만하다.
나델라 CEO는 공급업체가 안전을 보증하더라도 결과에 대한 책임은 기업이 계속 진다고 썼고 마이크로소프트는 에이전트가 위험한 결정을 내리려 할 때 사람의 승인을 요구하는 기능을 더했으니, 민감한 데이터를 다루는 업무에 에이전트를 붙일 때는 공급사 보증만 믿지 말고 고위험 작업에 사람 승인 단계가 있는지 따져 볼 일이다.
원문 게시 시각 확인 안 됨 · 처음 보도된 시각 2026-10-20 06:28 KST · 저희가 확인한 시각 2026-10-20 07:49 KST
AI 클라우드 기업 코어위브(CoreWeave)의 채권은 지난주 투자자들이 국채보다 1,000베이시스포인트(10%포인트) 이상 높은 수익률을 요구하는 부실채권 영역에 들어섰으며, 주가는 지난 화요일 종가 대비 20% 이상 하락했다.
코어위브는 그래픽처리장치(GPU)를 담보로 대출을 일으키는 방식을 앞세워 2분기 실적 기준 350억 달러 이상의 부채를 안고 있으며, 올해 상반기에만 10억 달러가 넘는 손실을 기록했다.
다만 2분기 기준 고객사로부터 받을 잔여수행의무(계약 잔액)가 1,037억 달러에 이르고 이 중 약 40%가 2028년에 도래하며, 마이크로소프트와 오픈AI 등 상위 3개 고객사가 2분기 매출의 약 4분의 3을 차지하고 있다.
투명한 비눗방울 안에 'AI' 글자를 넣은 그래픽 일러스트The Verge, 2026-10-20
기사에 따르면 잔여수행의무(remaining performance obligations)는 고객사가 매우 제한된 상황을 제외하고는 취소할 수 없는 계약에 따라 코어위브에 지급하기로 약정한 향후 매출 금액을 뜻한다.
내 일에는 이렇게
코어위브는 상반기에 10억 달러 넘는 적자와 350억 달러 이상의 부채를 기록한 반면 취소하기 어려운 잔여수행의무 계약도 1,037억 달러를 보유하고 있으니, 외부 AI 인프라 공급사의 안정성을 살필 때는 하루하루의 주가 변동만 보지 말고 차입 비용과 장기 확정 계약 구조를 함께 대조해 볼 일이다.
더버지는 코어위브의 2분기 매출 약 4분의 3이 마이크로소프트와 오픈AI 등 상위 3개 고객사에서 나오고 코어위브를 둘러싼 불안이 오라클 등 다른 AI 인프라 기업의 주가와 채권 매도로도 번졌다고 짚었으니, 네오클라우드 업체의 서비스를 장기 계약할 때는 소수 대형 고객 의존도와 재무 건전성을 먼저 확인할 만하다.
원문 게시 시각 확인 안 됨 · 처음 보도된 시각 2026-10-20 02:45 KST · 저희가 확인한 시각 2026-10-20 07:49 KST
닉 카마라타 굿파이어(Goodfire) 연구원이 2만 6,000단어 블로그 글에서 펼친 주장의 핵심은, 대형언어모델이 생각보다 훨씬 쉽게 이해될 수 있고 그렇다면 감시와 통제도 그만큼 쉬워질 수 있다는 것이다.
카마라타는 과거 오픈AI에서 2020년 연구했던 이미지 인식 모델 인셉션 v1을 다시 분석한 결과, 자동차와 고양이 사진에 동시에 반응하던 뉴런이 무관한 개념을 뒤섞은 것이 아니라 두 이미지에 공통으로 나타나는 V자 형태에 반응하고 둥근 O자 형태에서는 꺼진다는 점을 발견했다고 밝혔다.
스탠퍼드대에서 대형언어모델 작동 원리를 연구하는 팀을 이끄는 크리스 포츠 교수는 카마라타가 내놓은 것이 직감에 가깝다며 회의적인 반응을 보였다.
기사 설명으로는 뉴런 하나가 서로 관계없는 여러 개념을 동시에 맡는 '중첩(superposition)' 현상이 알려지면서 신경망 내부는 사람이 해석하기 어렵다는 시각이 굳어졌다.
내 일에는 이렇게
카마라타의 이번 발표는 2014년 구글이 만든 단순한 이미지 모델 인셉션 v1 분석에 기반한 블로그 글이고 최신 대형언어모델에 대한 기술 결과는 추후 공개할 예정이라고 밝혔으니, AI 모델 내부를 완전히 파악해 통제할 수 있다는 주장을 접할 때는 분석 대상이 과거 소형 모델인지 최신 대형언어모델인지부터 확인할 만하다.
연구자들이 이해하는 최상위 대형언어모델 내부 작동 방식은 0.01%에도 못 미친다는 힐턴의 지적과 개별 뉴런 이해만으로는 해석 문제 전체를 풀 수 없다는 구글 딥마인드 닐 난다의 반론을 보면, 업무에 프런티어 모델을 쓸 때는 내부 원리가 거의 밝혀지지 않았다는 전제에서 결과물 검증 절차를 따져 볼 일이다.
원문 게시 시각 확인 안 됨 · 처음 보도된 시각 2026-10-20 13:00 KST · 저희가 확인한 시각 2026-10-20 13:11 KST
편집 가능한 하나의 흐름 안에서 광학문자인식(OCR) 추출, 대형언어모델(LLM) 사전 주석, 사람의 검증을 차례로 거치게 한 프로토타입 '가이다(GAIDA)'가 아카이브 논문으로 제안됐다.
연구진은 이 도구로 만든 아랍어 영수증 이미지 100장짜리 데이터셋 아라리시트(AraReceipt)도 공개했는데, 작업자 한 명이 참여한 초기 실험에서는 OCR 지원이 영역 생성·전사 시간을, LLM 사전 주석 검토가 의미 라벨링 시간을 각각 최대 80.9%, 73.7% 줄였다.
원문 게시 시각 확인 안 됨 · 처음 보도된 시각 2026-10-20 13:00 KST · 저희가 확인한 시각 2026-10-20 13:11 KST
클로드 오퍼스 4.6과 소네트 4.6은 미국 지질조사국(USGS)의 지구화학 시뮬레이터 PHREEQC 보고서를 문맥 창 밖에 두고 섹션 색인으로 찾아 읽게 해도 의미 있는 손실이 없었지만 GPT-5.1과 GPT-5.2는 정확도가 각각 11.3점, 7.9점 떨어졌다고 아카이브 논문이 밝혔다.
공식 출력을 명시해 주자 세 GPT 모델의 정확도는 단순 검색 때보다 6.3~7.9점 높아졌고, 연구진은 두 GPT 모델이 공식 보고서 대신 자기 출력 파일을 근거로 삼아 반올림 오류를 낸 현상을 '근거 대체'라고 이름 붙였다.
CX벤치 결과 통과 건의 80.07%가 절차를 어겼으니, 에이전트는 결과 외에 절차 준수까지 확인할 만하다.
이 사이트의 기사는 자동화된 과정으로 만들고 발행합니다. 공개 발표, 기술 문서, 공개 게시글을 모아 그날 다룰 소식을 자동으로 고르고, AI가 초안을 씁니다. 초안을 쓴 AI와 다른 AI가 문장마다 원문 출처와 대조해 사실을 확인하고, 근거가 부족하거나 원문과 어긋나는 문장은 빼거나 발행을 미룹니다. 정해진 점검을 모두 통과해야 AI가 발행을 승인하며, 사람이 기사마다 검토하지는 않습니다. 발행 뒤 잘못이 확인되면 정정 기록을 남기고 바로잡습니다.
