1 00:00:00,000 --> 00:00:00,976 2 00:00:00,976 --> 00:00:09,000 AI 기업 오픈AI(OpenAI)의 대표인 샘 알트먼은 한 인터뷰에서 ChatGPT의 후속 버전에 대한 계획을 설명했다. 3 00:00:09,000 --> 00:00:15,679 이 시스템은 앞으로 몇 달 안에 가동될 예정이다. 알트만은 다음과 같이 말했다: 4 00:00:15,679 --> 00:00:28,861 “제 생각에는, ChatGPT의 후속 버전이 당신의 컴퓨터 화면을 끊임없이 지켜보고, 당신이 참여하는 모든 회의를 모니터링하며, 모든 통화를 녹음하여, 당신이 보는 모든 것을 5 00:00:28,861 --> 00:00:37,279 바탕으로 당신의 삶 전체에 대한 완벽한 맥락을 파악하는 세상이 머지않았다고 생각합니다.” 6 00:00:37,279 --> 00:00:42,840 곧 AI는 단순히 요청에 반응하는 것을 넘어, 주도적으로 행동하게 될 것입니다. 7 00:00:42,840 --> 00:00:51,161 이 시스템은 아이디어를 제안하고, 잠재적인 문제를 파악하며, 일상생활을 도와줄 것입니다. 정말 멋진 신세계가 되겠네요! 8 00:00:51,161 --> 00:01:02,178 게다가 『1984』 — “빅 브라더가 너를 지켜보고 있다” — 와 같은 고전적인 디스토피아 는 마치 무해한 인형극처럼 보일 정도인데, 오웰의 감시자들은 여전히 벽 뒤에 숨어 있었기 때문이다. 9 00:01:02,178 --> 00:01:08,526 알트만의 관찰자들은 현재 스마트폰이나 PC에 자리 잡고 있으며, 머지않아 우리 뇌 속에도 자리 잡게 될 것이다. 10 00:01:08,526 --> 00:01:12,650 그들은 늘 곁에 있는 동반자가 되고, 겉보기에는 친구가 됩니다. 11 00:01:12,650 --> 00:01:15,343 안락함이라는 유혹은 참으로 매력적이다. 12 00:01:15,343 --> 00:01:23,476 누구든 성가신 약속 몇 가지를 다른 사람에게 맡기거나, 업무에서 완벽한 전문가의 도움을 받고 싶어 하지 않을 사람이 어디 있겠습니까? 13 00:01:23,476 --> 00:01:30,363 하지만 사람들이 새로운 AI 지원 시스템에 의존하게 되자마자, AI는 그들을 질책하기 시작할 것이다. 14 00:01:30,363 --> 00:01:37,520 “지원”과 “간섭” 사이의 미묘한 경계는 더 이상 사용자가 아닌 알고리즘에 의해 정의되게 된다. 15 00:01:37,520 --> 00:01:41,204 이렇게 되면 적극적인 도움이 간섭으로 변해버립니다. 16 00:01:41,204 --> 00:01:47,020 구체적으로 어떻게 보이는지 몇 가지 예를 들어 보겠습니다: 17 00:01:47,020 --> 00:01:50,695 1. 정부 정책에 대한 비판적인 논평을 쓰고 싶은가요? 18 00:01:50,695 --> 00:01:55,437 모든 키 입력을 추적하는 AI가 텍스트를 미리 “수정”합니다. 19 00:01:55,437 --> 00:02:04,040 그녀는 더 무해한 표현을 제안하거나, 해당 게시물이 “부적절”하거나 “논란을 일으킬 수 있다”고 판단되면 아예 게시하지 않습니다. 20 00:02:04,040 --> 00:02:11,060 이미 현재 구글의 AI는 자체 정의에 따라 무해한 리뷰들을 차단하고 있다. 21 00:02:11,060 --> 00:02:15,078 2. 인터넷에서 논란이 되는 주제에 대한 정보를 찾고 계신가요? 22 00:02:15,078 --> 00:02:22,414 AI는 검색 결과를 걸러내어, “신뢰할 수 있는” — 즉, 시스템에 부합하는 — 것으로 판단되는 출처만 표시합니다. 23 00:02:22,414 --> 00:02:25,585 이미 소셜 미디어에서는 섀도우 배닝이 이루어지고 있다. 24 00:02:25,585 --> 00:02:34,269 콘텐츠는 차단된 것은 아니지만, 더 이상 검색 결과에 표시되지 않으므로 구독자에게 제공되지 않습니다. 25 00:02:35,769 --> 00:02:42,683 3. 더 이상 읽고 쓰는 일은 필요하지 않습니다. AI가 난해한 텍스트를 요약해 주거나 기사나 연설문 전체를 작성해 주기 때문입니다. 26 00:02:42,683 --> 00:02:49,870 저널리스트 톰-올리버 레게나우어는 최근 이 주제에 관한 입장문에서 다음과 같이 썼다: 27 00:02:49,870 --> 00:02:56,020 “읽기, 생각하기, 쓰기를 다른 사람에게 맡기면, 그 능력을 잃게 된다. 게다가 아주 빨리 잃게 된다.” 28 00:02:56,020 --> 00:03:01,599 뇌는 근육과 비슷합니다. 훈련하지 않으면 퇴화하게 됩니다... 29 00:03:01,599 --> 00:03:13,186 2007년 이후 스마트폰의 도입이 초래한 치명적인 결과를 떠올려 보면, AI가 우리 종의 인지적 능력에 훨씬 더 짧은 시간 내에 어떤 영향을 미칠지, 인공지능이 훨씬 더 짧은 시간 내에 30 00:03:13,186 --> 00:03:19,616 우리 종의 인지적 능력에 어떤 영향을 미칠지 예측하는 데는 그리 큰 상상력이 필요하지 않습니다. 31 00:03:19,616 --> 00:03:26,343 AI는 – 스마트폰과 마찬가지로 – 무엇보다도 군사 기술이자 타락의 도구이다. 32 00:03:26,343 --> 00:03:32,294 극소수만이 책임감 있게 그리고 생산적으로 다룰 수 있는 도구입니다. 33 00:03:32,294 --> 00:03:43,840 방향 감각도, 의지도, 생각도 없는 “스롬비”들, 는 이미 도시 풍경을 특징짓고 있지만, 경각심을 불러일으키는 사례로서는 아직 충분하지 않은 듯하다.” 34 00:03:43,840 --> 00:03:52,821 4. AI는 아주 짧은 시간 만에 개인의 정치적 성향을 파악하고, 사적인 메시지를 읽으며, 관계 및 인맥 네트워크를 파악한다. 35 00:03:52,821 --> 00:03:58,580 그녀는 이 지식을 인간의 발전을 돕기 위해 사용하는 것이 아니라, 인간을 ‘최적화’하기 위해 이용한다. 36 00:03:58,580 --> 00:04:02,526 간단히 말해, 이는 요구되는 기준에 부합하는 것을 의미합니다. 37 00:04:02,526 --> 00:04:10,245 ‘너징(nudging)’, 즉 미묘한 여론 조종은 코로나 팬데믹 기간 동안 이미 대규모로 성공적으로 시험된 바 있다. 38 00:04:10,245 --> 00:04:15,040 그렇다면 우리 사용자들은 ChatGPT와 같은 서비스에 얼마나 많은 권한을 부여해야 할까요? 39 00:04:15,040 --> 00:04:19,198 톰-올리버 레게나우어는 이에 대해 다음과 같이 분명히 밝혔습니다: 40 00:04:19,198 --> 00:04:27,392 “나를 끊임없이 감시하고, 이미 지금 이 순간에도 나를 죽일 수 있는 잠재력을 지닌 시스템을 훈련시키는 것은 거부합니다.” 41 00:04:27,392 --> 00:04:40,398 바로 이것이 Palantir, OpenAI의 ChatGPT, Anthropic의 Claude, SpaceXAI의 Grok이 이미 가자지구, 우크라이나, 이란 및 기타 전쟁 지역에서 하고 있는 42 00:04:40,398 --> 00:04:52,424 일입니다. 바로 이러한 시스템들이 자율 무기 시스템을 제어하고 있는데, 유로폴(EUROPOL)에 따르면 조만간 우리 도시에서도 순찰을 돌게 될 그 미니 드론들처럼 말입니다. 43 00:04:52,424 --> 00:05:00,370 AI 시스템을 사용하는 사람은 실제 ‘터미네이터’를 제어하게 될 중앙 데이터베이스인 ‘스카이넷’을 훈련시키는 셈이다. 44 00:05:00,370 --> 00:05:06,784 “그리고 보스턴 다이내믹스, 유니트리, 테슬라 덕분에 그 기술이 머지않아 우리 곁에 다가올 것입니다.”