"연봉 6억에 모셔요" 무기 전문가 뽑는 빅테크…AI 윤리 방어선 구축 - v.daum.net

"연봉 6억에 모셔요" 무기 전문가 뽑는 빅테크…AI 윤리 방어선 구축 전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다. 미국 빅테크들이 무기·생화학 전문가 모시기에 나섰다. 인공지능(AI) 모델이 위험한 화학 정보를 생성하지 못하게 가이드라인을 설계하는 등 윤리적 방어선을 구축하기 위함이다. 이와 관련해 AI 모델의 위험을 식별·관리하는 팀 내 생화학 위협 분석가 등을 채용하고 있다. 팀은 AI가 생화학 무기 제조법이나 규제 대상 약물 합성 방법 등을 알려주지 못하게 테스트한다. 전쟁에 동원된 AI 기술 최소 안전판 마련 위해 무기 전문가 채용 미국 빅테크들이 무기·생화학 전문가 모시기에 나섰다. 인공지능(AI) 모델이 위험한 화학 정보를 생성하지 못하게 가이드라인을 설계하는 등 윤리적 방어선을 구축하기 위함이다. 25일 정보기술(IT) 업계에 따르면 앤스로픽은 화학무기 및 고성능 폭발물 정책 매니저를 채용 중이다. 무기 방어 분야에서 5년 이상의 경력을 가진 박사급 전문가를 지원 대상으로 하며, 제시한 연봉은 약 24만5000~28만달러(약 3억6000만~4억1000만원) 수준이다. 화학·생물·방사능·핵·폭발물(CBRNE) 기술 위협 조사관도 비슷한 급여 조건으로 채용한다. 앤스로픽의 이번 채용은 'AI 시스템의 치명적인 오용 방지'를 목적으로 한다. AI 기술의 군사적 활용 범위를 넓히려는 미 국방부와 갈등이 깊었던 만큼, AI 모델 '클로드'가 살상 무기 개발에 활용되지 못하도록 윤리적 방어선을 구축하려는 것이다. 최근 국방부와 협력을 강화한 오픈AI도 AI가 핵·화학 무기와 관련된 위험을 유발하지 않도록 안전 시스템을 구축하고 있다. 앞서 '군사 및 전쟁' 목적의 사용 금지 조항을 삭제했으나 허용 범위를 사이버 보안 강화와 수송 물류 최적화 등에 한정했다. 사람을 해치거나 무기를 개발하는 데 쓰지 않는다는 원칙은 유지하고 있다. 이와 관련해 AI 모델의 위험을 식별·관리하는 팀 내 생화학 위협 분석가 등을 채용하고 있다. 처우는 연간 약 30만~45만달러(약 4억4000만~6억7000만원) 수준으로 동종업계보다 높다. 마이크로소프트(MS)를 포함한 구글, 메타 등도 같은 이유로 해당 전문가를 적극 물색하고 있다. 오픈AI의 최대 투자자이자 자체 모델도 보유한 MS는 2023년부터 전문 레드팀을 운영 중인 것으로 알려졌다. 팀은 AI가 생화학 무기 제조법이나 규제 대상 약물 합성 방법 등을 알려주지 못하게 테스트한다. 구글은 단백질 구조 예측 AI인 '알파폴드'를 운영하고 있어 생물학적 위험 관리에 민감한 기업 중 하나로 꼽힌다. 현재 바이오 보안 전담팀을 두고 있으며, 앤스로픽 등과 생화학 무기 관련 안전 표준을 함께 만들고 있다. 메타는 모델을 오픈소스로 공개해 사전 학습에 더욱 신경을 쓸 수밖에 없다. 모델 배포 전 수천 개의 위험 질문을 던져보고 답변을 거부하도록 학습시킬 수 있는 생화학 전문가들을 대거 고용하고 있다. 이상근 고려대 정보보호대학원 교수는 "전쟁이 터지면 생존을 위한 기술 활용이 윤리에 우선할 수밖에 없는데, 기업들이 상황에 끌려가는 중에도 안전선을 지키기 위해 움직이는 것으로 보인다"고 말했다. 다만 "공격과 방어 기술은 같이 발전하기 마련이어서 주의할 필요가 있다"며 "우리나라는 조심스러운 입장으로 보인다"고 덧붙였다. 노경조 기자 [email protected] Copyright © 아시아경제. 무단전재 및 재배포 금지. - 30살 연하남과 6번째 결혼 …100억대 혼수품 건넨 55세 재벌녀, 누구길래… - "94세 맞아? 50대인 줄"…'최강동안' 이길여 가천대 총장 근황 - "이게 리조트지, 교도소야?"…초호화 조감도 유출되자 법무부 내놓은 해명은? - 배불러 남긴 치킨, 다시 먹으려다 '깜짝'…"절대 안돼" 전문가 경고 - '대기업男'과 결혼하고 싶어서…"임신했어" 거짓말에 3억 빚도 숨긴 여성 - "이 정도 크기일 줄은" 5시간 사투 끝에 잡아 올린 '괴물'의 정체 - '모텔 살인' 김소영, '9900원'으로 남자 홀렸나…중국 보정앱 사용 추정 - "필터 낀 줄…종말 온 것 같다" 새빨갛게 물든 호주 하늘, 무슨 일 - "서서 샤워기 물 맞고 있지 마"…중동전쟁 불똥이 日 동네 목욕탕까지 - 눈치껏 비켜라? 시민과 부딪힌 러닝 크루 발언에 누리꾼 '부글부글'