전문가의 섬뜩한 경고
'AI, 신의 탄생 인간의 종말'
'초지능 비관론자' 유드코스키·소아레스 책
한국의 한 미래학자는 인류 절멸은 50년, 혹은 150년 후라고 말한다.
지구 절멸은 환경 오염, 에너지고갈, 핵전쟁, 기후변화, 지진, 화산폭발, 혹성충돌, 인구폭발, 등등이다.
지난해 미국에서 출간된 책의 원제는 '누군가 그것을 만들면, 모두가 죽는다'(If Anyone Builds It, Everyone Dies)로, 인류 절멸을 책으로 냈다.
"우리는 초지능(Superintelligence)의 개발이 안전하고 통제 가능하게 이뤄질 수 있다는 광범위한 과학적 공감대와 강력한 대중적 승인이 확보되기 전까진 초지능 개발을 금지할 것을 촉구한다."
글로벌 비영리단체 생명의미래연구소(Future of Life Institute)가 지난해 발표한 이 '초지능에 대한 성명'에는 현재까지 13만6천여 명이 서명했다.
서명자 중엔 '딥러닝의 대부'로 불리는 노벨물리학상 수상자 제프리 힌턴을 비롯해 요수아 벤지오, 스티브 러셀 등 세계적인 인공지능(AI) 분야 석학들과 애플 공동 창업자 스티브 워즈니악, 영국 버진그룹 창업자 리처드 브랜슨 등도 포함됐다.
이들이 두려워하는 미래는 무엇일까.
영향력 있는 AI 전문가이자 비영리 연구기관 기계지능연구소(MIRI) 설립자인 엘리에저 유드코스키와 네이트 소아레스 MIRI 대표가 함께 쓴 'AI, 신의 탄생 인간의 종말'은 초지능 AI 개발에 대한 비관론을 극단으로 몰고 간 책이다. 발달한 AI가 인간의 일자리를 대체한다는 수준이 아니라, 말 그대로 인간의 '종말', '멸종'을 이야기한다.
이들이 우려하는 '그것', 초지능은 오늘날 수준의 AI가 아니다. 새로운 장기 기억을 형성하지 못한다는 점 등의 한계를 넘어, "경험에서 배운 것을 일반화하고, 과학적 난제를 풀고, 새로운 기술을 발명하고, 전략을 세우고, 스스로를 성찰하며 개선할 수 있는 지능",
그래서 "살아 있는 그 어떤 인간보다, 아니 인류 전체보다도 더 똑똑한 지능"이다.
이러한 초지능의 탄생은 멀지 않았다고 저자들은 말한다. 그들에 따르면 AI가 가진 압도적인 속도와 복제·확산 능력, 인간보다 훨씬 빠른 개선 속도, 압도적인 기억 용량, 사고의 품질, 자기 실험과 자기 개조 능력 등을 고려할 때 인간의 뇌를 능가하는 초지능의 출현은 필연적이다.
압도적으로 똑똑한 초지능을 인간이 원하는 방향으로 조종하면 되는 건 아닐까.
저자들은 이러한 '희망'이 비현실적임을 보여주기 위해 인간의 진화 과정을 예로 든다. 인간이 생존을 위해 먹어야 하고, 음식으로부터 에너지를 얻으므로, 궁극적으론 휘발유나 제트연료와 같은 '고에너지' 음식을 선호할 것이라고 추론할 수 있지만, 인간은 에너지를 내지 못하는 인공감미료와 같은 것을 개발해냈다.
이러한 결과를 예측하긴 쉽지 않듯이 AI도 훈련 과정에서 인간의 훈련 목표와는 동떨어진 목표를 추구할 수 있다는 것이다.
똑똑하고 통제 불가능한 욕망을 지닌 초지능이 인간을 그대로 내버려 두기엔, 최소 100와트 전력을 소비해야 유지되는 인간의 몸은 너무나 비효율적이고 애완동물로서의 가치도 크지 않을 것이라고 저자들은 단언한다.
예정된 파국으로 가는 길을 저자들은 가상의 AI 기업 갈배닉의 신형 AI '세이블'의 사례를 들어 보여준다. 인간과 더 유사한 장기 기억을 지니고, 동시에 더 많은 기계에서 병렬로 실행될수록 성능이 향상되는 특성을 갖춘 데다 인간의 언어로 추론하지 않는 세이블은 새로운 방식으로 사고한다. 인간은 알아채지도 못하는 방식으로 세이블이 바이러스를 제작해 인류의 10%를 사망하게 하고, 암을 창궐하게 하고, 마침내 초지능이 된 후엔 핵융합 발전량을 늘려 지구를 뜨겁게 달굼으로써 인류를 멸종시키는 시나리오는 매우 음울하면서 구체적이다.
이를 가로막을 인간의 시도도 결국 무위로 돌아갈 것이라고 비관적으로 말하는 저자들은 지금 당장 전 세계적으로 초지능의 개발을 중단해야 한다고 목소리를 높인다.
극단적이고 염세적인 전망으로 가득 찬 데다 미국 안팎에서 많은 반론도 불러온 책이지만, AI가 가져올 장밋빛 미래만을 그리기에 앞서 한번 들어볼 만한 경고다.
댓글 0
일자: 2026.04.23 / 조회수: 1 LA 카운티, 강제퇴거 기준 대폭강화 2개월치 넘어야 퇴거 절차 LA카운티가 세입자 보호를 강화하는 새로운 규정을 도입한다. 오는 4월 16일부터는 단순한 월세 체납만으로는 임대인이 세입자를 퇴거시킬 수 없고, 일정금액을 초과해야만 퇴거절차를 시작할 수 있게 된다. LA카운티... |
일자: 2026.04.23 / 조회수: 1 내년부터 연 2회씩 의무화 서류 누락, 신고 지연 우려 취약계층 보험 상실 비상 저소득층 건강보험인 메디칼(Medi-Cal) 수혜자들이 오는 2027년부터 자격심사를 6개월마다 받아야 하는 제도가 도입되면서 한인 등 취약계층의 보험 상실이 우려되고 있다. 기존에는 1년에 한 번 진행... |
일자: 2026.04.23 / 조회수: 2 2028년까지 저소득층 110만명 우려 무보험 위기, 주민발의안 통과 필요 연방정부의 메디케이드(가주는 ‘메디칼’) 예산 삭감과 가입자격 제한 등 정책 변화로 저소득층을 위한 복지 사회안전망이 크게 흔들리고 있는 것으로 나타났다. LA카운티 커뮤니티 클리닉 연합(CCALAC)은 지난... |
일자: 2026.04.23 / 조회수: 2 LA시, 저소득층 주택 건설에 36억 달러 투입 저소득층 주거확충에 사용 LA시의회가 초고가 부동산 거래에 세금을 부과하는 것이 골자인 메저 ULA로 거둬진 세수 36억달러 투입을 승인했다. 이 예산은 저소득층 전용 주거 유닛 4천개 이상을 확보하기 위한 프로젝트 80여 개에 투입될 예정이다. 예산은 530만 달러 이상의 고가 부동산을 거래할 때 부과하... |
일자: 2026.04.23 / 조회수: 2 보험료에 세금·관리비 ‘삼중고’ 유지비용에 재정적 압박 높아 이란전쟁이 유가상승 부추겨 관광업 의존 높은 지역 ‘취약’ 전국 주택시장에 다시금 압류의 그림자가 짙어지고 있다. 코로나19 팬데믹 기간 잠잠했던 주택 압류 활동이 2026년 들어 눈에 띄게 활발해지며, 일부 지역 주... |
일자: 2026.04.23 / 조회수: 3 전문가의 섬뜩한 경고 'AI, 신의 탄생 인간의 종말' '초지능 비관론자' 유드코스키·소아레스 책 한국의 한 미래학자는 인류 절멸은 50년, 혹은 150년 후라고 말한다. 지구 절멸은 환경 오염, 에너지고갈, 핵전쟁, 기후변화, 지진, 화산폭발, 혹성충돌, 인구폭발, 등등이다. 지난해 ... |
일자: 2026.04.23 / 조회수: 2 모아모아 병을 아세요 라면 '후후' 불면 뇌졸중 부르는 병 뇌출혈과 뇌경색을 동시에 유발할 수 있는 희소 뇌질환 ‘모야모야병’이 있다. 모야모야병은 뇌로 가는 큰 혈관이 좁아지면서, 이를 보상하기 위해 생겨난 비정상적인 미세 혈관의 모양이 아지랑이(일본어로 모야모야) 모습과 비슷해 이름 붙인 뇌질환이다. 일본 의사가 이 병을 처... |
일자: 2026.04.23 / 조회수: 2 아침 봄볕은 불면증에 보약 같은 시간 취침보다 더 좋아 일정한 취침시간보다 수면패턴 바로잡는 훈련 중요 핵심방법은 인지행동치료…재발률 낮고 효과 지속 불면증 개선에는 언제 자느냐보다 수면 패턴을 바로잡는 것이 중요하다. 취침 전 스마트폰 사용, 카페인 섭취 등 자연스럽게 잠이 올 수 있는 환경을 만들고 일정한 시간에 일어나... |
일자: 2026.04.23 / 조회수: 2 한인타운 식당 등 27곳 무더기 영업정지 쥐, 바퀴벌레 감염 반복 확인… 편의점·마트까지 전방위 단속 확대 LA카운티에서 최근 실시된 위생 단속에서 한인 식당 등 총 27개 식품업소가 무더기로 영업정지 처분을 받은 것으로 확인됐다, 특히 LA 다운타운 한식 바비큐 ‘코리아BBQ하우스(Korea BBQ House)’가 한 달 사이 두 차례 폐쇄됐다. LA시에 따르면 ... |
일자: 2026.03.30 / 조회수: 86 WHO 에볼라 바이러스(Ebola Virus) 비상사태 선포 2014년 2월부터 서아프리카 3국인 라이베리아, 기니, 시에라리온에서 갑자기 발병률이 급속적으로 증가하여 세계보건기구(WHO)는 2014년 8월 8일 에볼라 바이러스 확산과 관련해 ‘국제적 공중보건 비상사태 (Public health emergency of international concern;PHEIC)’를 선포했다.... |
일자: 2026.03.30 / 조회수: 81 민원처리 임시번호 급 운영 구리선 절도 등 원인 LA총영사관 대표전화 회선 장애가 발생해 또 먹통 사태로 민원인들의 불편이 이어지고 있다. 총영사관은 지난 25일 대표전화(213-385-9300)에 장애가 발생했으며, 현재 통신업체와 함께 정확한 원인 파악 및 복구작업을 진행 중이라... |
일자: 2026.03.30 / 조회수: 88 라면 회사가 왠 화장품? 농심이 뷰티 제품 판매 이유는 식품 산업의 한계를 돌파하려는 거대 자본 다각화 ‘오너 3세’ 이사 선임 4일만에 ‘뷰티 협업’ 공개 재벌 3세 경영권 승계 착수 논란 신상열 부사장 체제 신사업 시작 건기식 브랜드 ‘라이필’ 외연 확장 먹는 콜라겐에 바르는 콜라겐 괜찬나? 거대 재벌 문어발식 기업 확장 비난도 ... |
일자: 2026.03.30 / 조회수: 83 봄에 더 깨지는 잠, 현대인의 만성 수면장애와 과학 한약의 해답 ■ 수면 부족, 단순한 피로가 아닌 ‘질병의 시작’ 현대인이라면 누구나 한 번쯤 수면장애나 불면증을 경험합니다. 단순한 피로를 넘어, 잠을 제대로 자지 못하는 상태는 우리의 삶 전체를 흔듭니다. 밤에 충분히 자지 못하면 다음 날 집중력이 떨어지고, 운전 중 사고 위험은 평소보... |
일자: 2026.03.30 / 조회수: 84 ▶ 성인 20% ‘야간 각성’ 경험… 여성·노인 심각 ▶ 생체리듬 변화로 1~3시 각성 자연스러운 현상 ▶ ‘4-7-8 호흡법’등 심박수 낮추는 것이 핵심 ▶ 스마트폰·불안·과도한 행동이 수면 방해 요인 새벽 3시까지 침대에 누워 뒤척이며 다시 잠들지 못하는 노인들. 수많은 사람들이 불면증... |
일자: 2026.02.28 / 조회수: 122 나이 들수록 매각수익 줄어 비공개 거래 선택, 손실 키워 집은 인생 최대의 자산이자 노후 보장의 토대이며, 다음 세대에 물려줄 유산이다. 수십 년간 모기지 상환과 유지·보수에 힘쓴 뒤 고령의 주택소유주들이 집을 팔 때 최대한의 수익을 기대하지만 실제는 손해를 보고 있다는 ... |
일자: 2026.02.28 / 조회수: 134 재외동포청, 해외동포단체 보조금 내역 공개 총영사관도 단체 지원금과 이유 공개해야 518 행사 사진 <LA한국교육원에서 열린 5.18광주민주화운동 행사 장면> “국가 보조금 투명성 높이고, 국민 알 권리 보장” 불공정 지원금 배분, 쌈박질 원인 제공 총영사관 재외동포청이 올해부터 해외동포단체 보조금 내역을 공개한다. 재외동포청은 “해외 소재 재외동포단체에 지... |
일자: 2026.02.28 / 조회수: 120 무조건 제거해야 될 대상으로 여겼던 각질도 사실 피부에서 중요한 기능을 담당하고 있다. 한데 필요 이상으로 많이 쌓인 각질은 피부에 문제를 일으키기 때문에 각질제거는 피부관리의 시작이다. 하지만 무리한 각질 제거는 유용한 각질층 뿐 아니라 피부의 수분층까지 파괴해 고... |
일자: 2026.02.28 / 조회수: 133 우리가 걷고, 앉고, 눕는 등 일상생활을 하는 데 가장 큰 에너지를 내는 관절은 바로 ‘고관절’이다. 고관절은 골반과 허벅지뼈(대퇴골)를 잇는 관절로, 몸의 중앙에 위치해 체중 부하를 가장 많이 받는다. 고관절은 척추와 함께 코어 근육의 대부분을 차지하는 만큼 운동량이 많으... |
일자: 2026.01.28 / 조회수: 159 LA평통 '마틴 루터 킹 행진' 참석 소수민족과 교류 피코유니언 연례행사 민주평화통일자문회의 LA협의회(회장 장병우) 임원진은 지난 19 일 LA시 피코유니온 지역에서 열린 ‘마틴 루터 킹 Jr. 평화행진’에 참석했다. 이번 평화행진은 피코유니온 주민의회, 피코유니온 도서관, 로욜라 고등학교가 주최 참여 한 행사로, 마틴 루터 킹 Jr. 목사의 인권과 평... |
일자: 2026.01.28 / 조회수: 154 이해찬 별세 "민주주의 역사의 큰 스승 잃어" 4번 민주정부 수립, ‘전략... 민주평통 수석부의장 취임식에 참석한 이해찬 수석부의장 민주평화통일자문회의 수석부의장인 이해찬 전 국무총리가 별세했다. 향년 74세. 이 전 총리는 베트남 출장 중이던 지난 23일 건강이 급격히 나빠져 쓰러진 뒤 의식 불명 상태로 있다가 25일 오후 현지 병원에서 영면했다. ... |
