수백명의 과학자들이 AI 기반 생물학 무기 개발을 막기 위한 방안 제안.
작성자 정보
-
와일드서지 작성
- 작성일
컨텐츠 정보
- 147 조회
- 6 댓글
- 목록
본문
https://www.science.org/doi/full/10.1126/science.aeb2689
AI 기술이 발전하면서, 이걸 범죄에 악용하려는 시도가 급격하게 늘어나고 있다.
특히 AI 연구를 적극적으로 활용한 생물학 테러에 대한 우려가 커지고 있는 상황.
실제로 지난 2025년 뮌헨 안보회의에서 14명의 전문가 그룹이 극단주의 테러 단체가 AI를 이용해
새로운 유형의 엔테로 바이러스를 만들어 8억 5천만 명의 감염자와 6천만 명의 사망자를 초래하는
팬데믹 시나리오를 논의한 바 있다.
따라서 옥스퍼드 대학, 스탠퍼드 대학, 콜롬비아 대학교, 존스 홉킨스 대학, 뉴욕 대학교 등등등.
수많은 유명 대학에 소속된 과학자 수백명이 AI 모델 학습에 사용할 수 있는 생물학적 데이터에
점진적인 제한을 가하는 방안을 제안했다.
해당 방안은 박테리아와 바이러스를 다루는 실험실과 시설의 격리 수준에 기반한다.
생물학 데이터를 다섯 단계(BDL)로 분류하며, 각 데이터에 대한 접근 제한을 가한다.
BDL를 분류하는 방식은 다음과 같다.
BDL-0
가장 낮은 계층으로 매우 기초적인 생물학 데이터만 학습 가능하다.
규제가 없다.
BDL-1
AI 모델이 바이러스 전파의 일반적인 패턴을 학습할 수 있다.
시설 및 연구소에 등록된 계정과 정부 발급 신분증이 필요하다.
BDL-2
버이러스 숙주, 환경 안정성과 같은 팬데믹 유행에 필요한 정보를 학습할 수 있다.
시설 및 연구소에 등록된 계정과 정부 발급 신분증이 필요하다.
시설 소속 조회, 데이터 남용 방지 조회가 추가된다.
BDL-3
감염성, 병원성, 면역 회피 등 인간 감염성 바이러스 기능을 특정 유전자 서열에 매핑하는 데이터 학습이 가능.
지금까지 더해진 제한 조치에 추가로 AI 모델의 사전 위험 평가, 연구별 정당한 사용 확인 절차 추가,
원시 데이터에 접근하는 걸 큰폭으로 제한하는 조치가 더해진다.
BDL-4
팬데믹이 될 수 있는 바이러스 변종을 설계할 수 있게 해주는 데이터 학습이 가능하다.
BDL-3까지의 항목에 추가로 AI 모델이 생성한 데이터를 취급하기 위해, 정부의 사전 접근 검토가 있어야 한다.
물론 이런 규제를 반대하는 목소리도 적지 않다.
AI의 능력은 그대로이기에, 데이터에 대한 접근 제한 따위는 무의미하며
오히려 의학적 연구의 방해가 될 뿐이라는 것이다.
다만 현재 AI 모델이 학습 가능한, 위험한 병원체를 설계할 수 있는 대규모 데이터셋은 공개된 게 없다.
병원체 유전자형을 실제 형질과 매핑하는 데이터 수집은 시간이 엄청나게 많이 걸리고
여러 생물학 분야 전문성이 필요해 일반적인 연구실에서는 시도하기 힘들기 때문이다.
국가 단위 지원을 받는 곳이라면 비공개로 존재할 지도 모르지만.
그렇기에 BDL-4 레벨의 데이터셋에 대한 AI 모델의 학습을 통제할 수 있다면,
비인가 생물학 무기 개발을 예방할 수 있을 거라는 게 이번 규제의 요지다.
안내 사이트: 카지노 게임
관련자료
-
이전
-
다음
YouTubecom님의 댓글
-
YouTubecom - 작성일
forgodsake님의 댓글
-
forgodsake - 작성일
마리괭이님의 댓글
-
마리괭이 - 작성일
착한말착한말님의 댓글
-
착한말착한말 - 작성일
lIIlIIlIIlI님의 댓글
-
lIIlIIlIIlI - 작성일
카에데카렌님의 댓글
-
카에데카렌 - 작성일
