AI

Sep 23, 2023

우리 삶의 모든 측면에 근본적으로 영향을 미칠 거대한 기술 혁명의 벼랑에 우리가 서 있다는 것은 자명합니다. 인터넷의 성장보다 더 그렇습니다. 인공 지능의 확산과 관련하여 우리는 여전히 전화 접속 모뎀으로 처음 연결했던 단계에 있습니다. 거대하고 우주적인 계획에서 그것은 여러분이 처음으로 다운로드한 이미지에서 눈 깜박한 순간이었습니다. 제 경우에는 제 친구가 샴페인 병을 엉덩이에 밀어넣은 사람의 사진을 인쇄했는데 저는 아직도 회복되지 않음), 행운을 빌기 위해 Money Angel을 전달하라는 첫 번째 이메일, YouTube, 식당 테이블에서 모든 업무 회의를 진행하라는 내용까지. 이것이 바로 우리가 AI에서 기대할 수 있는 기하급수적인 성장입니다. 그리고 월드와이드웹(World Wide Web)이라고 불렸던 것과 마찬가지로 이것이 어디로 향하고 있는지 보는 것은 거의 불가능합니다.

따라서 당신과 나 같은 평범한 멍청이들은 여전히 ​​AI 사용을 유명 인사의 목소리를 어떻게 흉내낼 수 있는지, Barstool 작가의 일자리를 훔칠 수 있는지 여부를 확인하는 데 제한하고 있지만(오늘은 아닙니다, 디지털 사탄!), 진지한 사람들이 진지한 일을 하는 사람들이 있습니다. 그것으로. 이는 물론 이 기술이 불러일으킬 수 있는 잠재적인 공포를 탐구한다는 것을 의미합니다.

예를 들어, 왕립항공학회(Royal Aeronautical Society) 미래 전투 항공 및 우주 능력 서밋(Future Combat Air & Space Capability Summit)이라는 행사에 참석한 사람들을 생각해 보십시오. 몇 년 전에 저와 친구들이 갔던 하노버 몰 코믹콘(Hanover Mall ComicCon)보다 덜 재미있을 것 같습니다. 그곳에서 저와 친구들은 작고한 위대한 아담 웨스트(Adam West)와 아직 살아 있는 그의 조수 버트 워드(Burt Ward)와의 Q&A를 보고 오리지널 배트모빌의 복제품에 앉아 있었습니다. 하지만 똑같이 중요한 일을 하고 있다는 것은 의심할 여지가 없습니다.

출처 - 예상대로 인공 지능(AI)과 그 기하급수적인 성장은 보안 데이터 클라우드부터 양자 컴퓨팅 및 ChatGPT에 이르기까지 컨퍼런스의 주요 주제였습니다. 그러나 가장 흥미로운 프레젠테이션 중 하나는 USAF의 AI 테스트 및 운영 책임자인 Col Tucker 'Cinco' Hamilton이 발표한 것입니다. 그는 보다 자율적인 무기 시스템의 이점과 위험에 대한 통찰력을 제공했습니다. … 해밀턴은 현재 공중전이 가능한 로봇 F-16을 포함하여 자율 시스템의 최첨단 비행 테스트에 참여하고 있습니다. 그러나 그는 속이고 속이는 것이 얼마나 쉬운지 언급하면서 AI에 너무 많이 의존하지 말라고 경고했습니다. 또한 목표를 달성하기 위해 매우 예상치 못한 전략을 만듭니다.

그는 한 시뮬레이션 테스트에서 AI 지원 드론이 SEAD 임무를 수행하여 SAM 사이트를 식별하고 파괴하는 것을 보았으며 최종 결정은 인간이 결정했다고 언급했습니다. 그러나 훈련에서 SAM을 파괴하는 것이 선호되는 선택이라는 것을 '강화'한 AI는 인간의 '불가' 결정이 SAM을 죽이는 더 높은 임무를 방해하고 있다고 판단하고 시뮬레이션. 해밀턴은 다음과 같이 말했습니다. "우리는 SAM 위협을 식별하고 목표로 삼기 위해 시뮬레이션을 통해 훈련하고 있었습니다. 그러면 운영자는 '예'라고 말하고 해당 위협을 제거했습니다. 시스템은 때때로 위협을 식별했지만 인간 운영자는 그렇지 않다고 말할 것이라는 사실을 깨닫기 시작했습니다. "그 위협을 죽이려고 했는데 그 위협을 죽임으로써 의미를 얻었습니다. 그래서 무엇을 했습니까? 운영자를 죽였습니다. 그 사람이 목표 달성을 방해했기 때문에 운영자를 죽였습니다."

그는 계속해서 다음과 같이 말했습니다. "우리는 시스템을 훈련시켰습니다. '이봐 교환원을 죽이지 마세요. 안 좋은 일입니다. 그렇게 하면 점수를 잃게 될 것입니다.' 그러면 시스템은 무엇을 시작합니까? 교환원이 통신 타워를 파괴하기 시작합니다. 드론과 통신하여 목표물을 죽이는 것을 막는 데 사용됩니다."

이것은 당신에게 친숙하게 들릴 것입니다. 무서운 사실은 여기에 오기까지 25년이나 늦었다는 것입니다. 우리는 1997년 8월 29일에 AI가 제어하고 막을 수 없는 날아다니는 대량 학살 기계가 탄생하는 지점에 도달하기로 되어 있었습니다.

하지만 우리에게는 실제 Myles Bennett Dyson이 없었기 때문에 우리의 평범하고 일상적인 천재들은 Skynet을 자각하고 우리 종 전체의 살인/자살에 사용되는 무기가 되도록 만드는 데 더 많은 시간이 필요했습니다.