초인공지능(ASI)이란 무엇인가? 정의, 위협 및 트렌드

초인공지능은 인간의 인지능력을 능가할 만큼 스스로 인식하고 지능을 갖춘 AI 시스템입니다.

(Artificial Super Intelligence(ASI) is an AI system that is self-aware and intelligent enough to surpass the cognitive abilities of humans.)

 

초인공지능(ASI)은 인지 능력을 발휘하고 스스로 사고력을 개발하여 인간의 지능을 능가할 수 있는 AI의 한 형태로 정의됩니다. 이 글에서는 ASI의 기본 개념, 슈퍼 AI 시스템의 잠재적 위협과 장점, 2022년 슈퍼 AI 발전에 관한 5가지 주요 트렌드에 대해 설명합니다.

 

 

 

초인공지능(슈퍼 AI)이란 무엇인가?

 

초인공지능(ASI)은 인지 능력을 발휘하고 스스로 사고력을 개발하여 인간의 지능을 능가할 수 있는 AI의 한 형태입니다.

슈퍼 AI라고도 불리는 초인공지능은 알버트 아인슈타인과 같은 가장 뛰어난 두뇌의 지능을 뛰어넘는 가장 진보되고 강력하며 지능적인 유형의 AI로 간주됩니다.

 

 

초지능을 가진 기계는 스스로 인식하고 인간이 할 수 없는 추상적인 사고와 해석을 할 수 있습니다. 인간 두뇌의 사고 능력은 수십억 개의 뉴런으로 구성된 집합으로 제한되어 있기 때문입니다. ASI는 다방면에 걸친 인간의 행동 지능을 복제하는 것 외에도 인간의 감정과 경험을 이해하고 해석할 수 있습니다. ASI는 AI의 이해 능력을 바탕으로 감정 이해, 신념, 욕구를 스스로 개발합니다.

ASI는 수학, 과학, 예술, 스포츠, 의학, 마케팅, 심지어 정서적 관계에 이르기까지 인간이 관심을 갖는 거의 모든 영역에서 응용할 수 있습니다. ASI 시스템은 문제에 대한 새로운 수학적 정리를 정의하는 것부터 우주 공간으로 모험을 떠나 물리 법칙을 탐구하는 것까지 인간이 할 수 있는 모든 작업을 수행할 수 있습니다.

ASI 시스템은 상황을 빠르게 이해하고, 분석하고, 처리하여 행동을 자극할 수 있습니다. 그 결과, 초지능 기계의 의사 결정과 문제 해결 능력은 인간보다 더 정확할 것으로 기대됩니다.

현재 컴퓨터 과학 분야에서 초지능은 실용적인 현실이라기보다는 이론적 가능성에 불과하며, AI는 대부분 인공 협소 지능(ANI)에 치우쳐 있습니다. 이는 AI 프로그램이 특정 문제만 해결하도록 설계되었음을 의미합니다. 

머신러닝과 딥러닝 알고리즘은 신경망을 활용하여 알고리즘이 결과를 반복적으로 학습하고 스스로 개선함으로써 이러한 프로그램을 더욱 발전시키고 있습니다. 따라서 이러한 알고리즘은 이전 AI 버전보다 데이터를 더 효과적으로 처리합니다. 그러나 신경망의 발전에도 불구하고 이러한 모델은 인간의 지능과 달리 당면한 문제만 해결할 수 있습니다.

엔지니어, AI 연구자 및 실무자들은 인공 일반 지능(AGI)을 갖춘 기술과 기계를 개발하고 있으며, 이는 ASI 개발의 길을 열어줄 것으로 기대됩니다. IBM의 왓슨 슈퍼컴퓨터나 애플의 시리처럼 이 분야에서 상당한 발전이 있었지만, 오늘날의 컴퓨터는 평균적인 인간의 인지 능력과 역량을 완전히 시뮬레이션하고 달성할 수 없습니다.

 

 

 

초인공지능의 일반적 특성

 

인공지능 분야의 석학들은 장기적으로 인공지능의 발전과 지속 가능성에 대해 여전히 회의적인 시각을 가지고 있습니다. 2021년 1월 인공지능 연구 저널에 발표된 최근 연구에 따르면 막스 플랑크 연구소와 같은 유수 연구소의 연구원들은 인간이 슈퍼 AI를 보유하는 것은 거의 불가능할 것이라고 결론지었습니다.

연구팀은 초인공지능의 진정한 잠재력을 파악하기 위해 머신 러닝, 계산 능력, 자기 인식 알고리즘의 최근 발전을 탐구했습니다. 그런 다음 몇 가지 알려진 정리에 대해 시스템을 테스트하는 실험을 수행하여 이 시스템을 포함하는 것이 가능한지 여부를 평가했습니다.

그럼에도 불구하고 초지능이 실현된다면 입이 떡 벌어질 정도로 빠른 속도로 또 다른 산업 혁명을 일으킬 수 있는 잠재력을 가진 새로운 기술 시대를 열게 될 것입니다. 다른 기술 및 형태의 지능과 차별화되는 ASI의 대표적인 특징은 다음과 같습니다:

1. ASI는 더 지능적으로 진화하기 위해 끊임없이 진화할 것이므로 인류가 만들어야 할 최고의 발명품이자 어쩌면 마지막 발명품이 될 것입니다.
2. 초지능은 AI 프로그래밍, 우주 연구, 의약품의 발견 및 개발, 학문 등 다양한 분야에서 기술 발전을 가속화할 것입니다.
3. ASI는 인공 지능을 더욱 성숙시키고 발전시켜 인공 지능을 모방할 수 있는 고급 형태의 초지능을 개발할 수도 있습니다.
4. 향후 ASI는 기술적 특이점으로 이어질 수도 있습니다.

 

 

 

슈퍼 AI 시스템의 잠재적 위협

 

인공 지능은 수많은 추종자와 지지자를 보유하고 있지만, 많은 이론가들과 기술 연구자들은 기계가 인간의 지능을 능가하는 것에 대해 경고하고 있습니다. 이들은 스타트렉, 매트릭스 등 여러 할리우드 영화에서 볼 수 있듯이 이러한 지능의 발전이 전 지구적 재앙을 초래할 수 있다고 믿습니다. 또한 빌 게이츠와 엘론 머스크와 같은 기술 전문가들조차도 ASI에 대해 우려하고 있으며 인류를 위협하는 요소로 간주하고 있습니다.

다음은 초지능의 잠재적 위협 중 일부입니다.

 

 

1. 통제력 및 이해력 상실

전 세계 전문가들로부터 많은 관심을 받고 있는 초지능의 잠재적 위험 중 하나는 ASI 시스템이 자신의 힘과 능력을 사용하여 예측하지 못한 행동을 수행하고 인간의 지능을 능가하며 결국에는 막을 수 없게 될 수 있다는 것입니다. 첨단 컴퓨터 과학, 인지 과학, 나노 기술, 뇌 에뮬레이션은 인간을 능가하는 기계 지능을 달성했습니다. 

이러한 시스템 중 하나에 문제가 발생하면 우리는 그 시스템을 통제할 수 있는 위치에 있지 않을 것입니다. 게다가 우리의 요청에 대한 시스템의 반응을 예측하는 것은 매우 어려울 것입니다. 따라서 통제력과 이해력의 상실은 인류의 멸망으로 이어질 수 있습니다.

 

2. 슈퍼 AI의 무기화

오늘날 고도로 발전된 AI 시스템이 잠재적으로 사회 통제나 무기화에 사용될 수 있다고 생각하는 것은 충분히 논리적으로 보입니다. 이미 전 세계 정부는 군사 작전을 강화하기 위해 AI를 사용하고 있습니다. 그러나 무기화되고 의식적인 초지능이 추가되면 전쟁을 변화시키고 부정적인 영향을 미칠 수 있습니다. 

또한 이러한 시스템이 규제되지 않는다면 끔찍한 결과를 초래할 수 있습니다. 프로그래밍, 연구 개발, 전략 계획, 사회적 영향력, 사이버 보안 분야에서 초인적인 능력을 갖춘 초지능은 스스로 진화하여 인간에게 해가 될 수 있는 위치를 차지할 수 있습니다.

 

3. 인간과 AI의 목표 일치 실패

슈퍼 AI는 우리에게 유리하도록 프로그래밍할 수 있지만, 슈퍼 AI가 목표를 달성하기 위해 파괴적인 방법을 개발할 확률은 제로가 아닙니다. 이러한 상황은 우리가 AI의 목표와 일치하지 않을 때 발생할 수 있습니다. 예를 들어, 지능형 자동차에 최대한 빨리 공항까지 데려다 달라고 명령하면 목적지까지 데려다 줄 수는 있지만 시간 제약에 맞추기 위해 자체 경로를 사용할 수 있습니다.

마찬가지로 슈퍼 AI 시스템에 중요한 지리 공학 프로젝트가 할당되면 프로젝트를 완료하는 동안 전체 생태계를 교란할 수 있습니다. 또한 슈퍼 AI 시스템을 막으려는 인간의 시도는 목표 달성에 대한 위협으로 간주될 수 있으며, 이는 이상적인 상황이 아닙니다.

4. 악의적인 초지능

AGI와 초지능의 성공적이고 안전한 개발은 인간의 도덕적 측면을 가르침으로써 보장될 수 있습니다. 그러나 정부, 기업, 심지어 소시오패스에 의해 특정 사회 집단을 억압하는 등 다양한 이유로 ASI 시스템이 악용될 수 있습니다. 따라서 초지능은 잘못된 손에 들어가면 치명적인 결과를 초래할 수 있습니다.

 

5. 핵 공격의 위험

ASI를 통해 자율 무기, 드론, 로봇은 상당한 힘을 얻을 수 있습니다. 핵 공격의 위험은 초지능의 또 다른 잠재적 위협입니다. 적국은 AGI 또는 초지능 분야에서 기술 우위를 점하고 있는 국가를 첨단 자율 핵무기로 공격하여 궁극적으로 파멸로 이끌 수 있습니다.

 

6. 윤리적 시사점

초지능 AI 시스템은 미리 정해진 도덕적 고려 사항으로 프로그래밍됩니다. 문제는 인류가 표준 도덕 규범에 합의한 적이 없으며 모든 것을 포괄하는 윤리 이론이 부족하다는 것입니다. 따라서 ASI 시스템에 인간의 윤리와 가치를 가르치는 것은 매우 복잡할 수 있습니다.

특히 AI가 인간의 지능을 뛰어넘지만 인간 사회와 일치하는 도덕적, 윤리적 가치로 프로그래밍되지 않은 경우, 초지능 AI는 심각한 윤리적 문제를 일으킬 수 있습니다.

 

 

 

슈퍼 AI의 잠재적 이점

초인공지능은 AI 시스템에서 인간의 추론, 감정, 경험을 시뮬레이션하는 새로운 기술입니다. 슈퍼 AI의 실존적 위험성에 대해 비판하는 사람들이 계속 논쟁을 벌이고 있지만, 이 기술은 모든 전문 분야에 혁신을 가져올 수 있는 매우 유익한 기술인 것 같습니다.

슈퍼 AI의 잠재적 이점을 살펴보겠습니다.

 

 

1. 인적 오류 감소

실수를 하는 것은 사람입니다. 컴퓨터 또는 기계는 적절하게 프로그래밍하면 이러한 실수를 상당히 줄일 수 있습니다. 프로그래밍 및 개발 분야를 생각해 보세요. 프로그래밍은 논리적이고 비판적이며 혁신적인 사고가 요구되는 시간과 리소스가 많이 소요되는 프로세스입니다. 

인간 프로그래머와 개발자는 종종 구문, 논리적, 산술, 리소스 오류에 직면합니다. 슈퍼 AI는 수백만 개의 프로그램에 액세스하고, 사용 가능한 데이터로부터 스스로 로직을 구축하고, 프로그램을 컴파일 및 디버깅하는 동시에 프로그래밍 오류를 최소화할 수 있기 때문에 이 과정에서 유용하게 사용될 수 있습니다.

2. 인간을 대체하여 위험한 작업 수행 

슈퍼 AI의 가장 중요한 장점 중 하나는 초지능 로봇을 배치하여 위험한 작업을 수행함으로써 인간의 위험 한계를 극복할 수 있다는 것입니다. 이러한 작업에는 폭탄 해체, 바다 깊은 곳 탐사, 석탄 및 석유 채굴, 자연재해 또는 인간이 유발한 재해의 결과 처리 등이 포함됩니다.

1986년에 발생한 체르노빌 원전 사고를 생각해 보세요. 당시에는 AI 기반 로봇이 아직 발명되지 않은 시기였습니다. 원자력 발전소의 방사능은 매우 강렬해서 노심에 가까이 접근한 사람은 단 몇 분 만에 사망할 수 있었습니다. 당국은 헬리콥터를 이용해 먼 거리에서 모래와 붕소를 뿌려야 했습니다. 

그러나 기술이 크게 발전함에 따라 이러한 상황에서도 초지능 로봇을 배치하여 사람의 개입 없이 구조 작업을 수행할 수 있습니다.

3. 24×7 가용성

대부분의 인간은 하루에 6~8시간 동안 일하지만, 다음 날 회복하고 일할 준비를 하려면 어느 정도 시간이 필요합니다. 또한 일과 삶의 건강한 균형을 유지하기 위해 매주 휴가가 필요합니다. 하지만 슈퍼 AI를 활용하면 기계가 쉬지 않고 24시간 내내 일하도록 프로그래밍할 수 있습니다.

예를 들어 교육 기관에는 매일 여러 문의를 받는 헬프 라인 센터가 있습니다. 슈퍼 AI를 사용하면 24시간 내내 문의에 맞는 솔루션을 제공함으로써 이를 효과적으로 처리할 수 있습니다. 슈퍼 AI는 교육 기관에 주관적인 학생 상담 세션도 제공할 수 있습니다.

 

4. 새로운 과학 분야 개척

화성 도시 개발, 성간 우주 여행, 심지어 행성 간 여행의 기술적 과제를 고급 AI 시스템의 문제 해결 능력으로 해결할 수 있으므로 슈퍼 AI는 우주 탐험을 촉진할 수 있습니다. 

자체적인 사고 능력을 갖춘 슈퍼 AI는 많은 방정식, 이론, 연구, 로켓 발사 및 우주 임무의 성공 확률을 테스트하고 예측하는 데 효과적으로 사용될 수 있습니다. NASA, SpaceX, ISRO 등의 조직은 이미 AI 기반 시스템과 플레아데스와 같은 슈퍼컴퓨터를 사용하여 우주 연구 노력을 확장하고 있습니다.

5. 의료 발전

슈퍼 AI의 개발은 의료 산업 분야에도 큰 도움이 될 수 있습니다. 신약 발견, 백신 개발, 약물 전달에 중추적인 역할을 할 수 있습니다. 네이처의 2020년 연구 논문에서는 세포 내 약물 전달을 위한 소형 지능형 나노봇의 설계와 활용에 대해 발표했습니다. 

백신 및 약물 전달을 위한 의료 분야의 AI 애플리케이션은 오늘날 이미 현실이 되었습니다. 또한, 의식적인 초지능이 추가되면 새로운 종류의 의약품을 발견하고 전달하는 것이 훨씬 더 효과적이 될 것입니다.

 

2022년 초인공지능 발전에 관한 5가지 주요 트렌드

 

팬데믹 이후, 우리는 산업 전반에 걸쳐 AI와 ML의 도입이 가속화되는 것을 목격했습니다. 또한 AI 하드웨어 및 소프트웨어 개발과 결합된 자동화는 슈퍼 AI의 한계를 더욱 확장하고 있습니다. ASI는 아직 초기 단계에 머물러 있지만, 최근의 AI 트렌드는 향후 고급 AI 시스템의 토대가 될 것이 거의 확실합니다.

2022년 슈퍼 AI의 발전을 가속화할 5가지 주요 AI 트렌드를 살펴보세요.

 

 

1. 대규모 언어 모델(LLM) 개발

언어 모델은 NLP 기술과 알고리즘을 사용하여 문장에서 일련의 단어 발생을 예측합니다. 이러한 모델은 텍스트 데이터를 요약하고 바로 그 텍스트로부터 시각적 차트를 생성할 수 있는 전문가 시스템입니다.

LLM 모델은 방대한 데이터 세트에 대해 학습됩니다. LLM의 대표적인 예로는 OpenAI의 GPT-2와 GPT-3, 그리고 Google의 BERT가 있습니다. 마찬가지로 한국 기업인 네이버는 포괄적인 AI 기반 한국어 모델인 HyperCLOVA를 구축했습니다. 이 모델은 간단한 에세이를 생성하고, 차세대 대화 AI 도구를 개발하며, 기업을 위한 복잡한 재무 모델을 설계할 수도 있습니다.

 

2. 멀티모달 AI의 발전

딥러닝 알고리즘은 단일 데이터 소스에서 기본 모델을 학습시켰습니다. 예를 들어, 자연어 처리 모델은 텍스트 데이터 소스에 대해 학습하고 컴퓨터 비전 모델은 이미지 데이터 세트에 대해 학습합니다. 마찬가지로 음향 모델은 웨이크 워드 감지 및 소음 제거 매개변수를 사용하여 음성을 처리합니다. 여기서 사용되는 ML 유형은 모델 결과가 텍스트, 이미지 및 음성과 같은 하나의 데이터 유형 소스에 매핑되므로 단일 모달 AI입니다.

반면에 멀티모달 AI는 시각과 음성 모달리티를 결합하여 인간의 인식과 일치하는 시나리오를 생성합니다. OpenAI의 DALL-E는 텍스트에서 이미지를 생성하는 멀티모달 AI의 최근 예시입니다. Google의 멀티태스크 통합 모델(MUM)인 멀티모달 AI는 75개 언어에서 채굴한 문맥 정보를 고려하여 검색 결과를 후보 목록에 올리므로 사용자 검색 환경을 개선하는 데 도움이 됩니다. 또 다른 예로 텍스트 입력에서 사실적인 이미지를 생성하는 NVIDIA의 GauGAN2 모델을 들 수 있습니다. 이 모델은 텍스트 이미지 생성을 사용하여 최고급 포토리얼리즘 아트를 개발합니다.

 

3. AI 기반 프로그래밍

지난 몇 년 동안 AI 기반 프로그래밍이 크게 발전했습니다. Amazon CodeGuru와 같은 여러 도구는 애플리케이션의 비용이 많이 드는 코드를 파악하여 전반적인 코드 품질을 개선하기 위한 관련 권장 사항을 제공했습니다. 또한 최근에는 깃허브와 OpenAI가 프로그래머와 개발자가 효율적인 코드를 작성할 수 있도록 돕는 'AI 페어 프로그래머'인 '깃허브 코파일럿'을 출시했습니다. 또 다른 예로, 세일즈포스(Salesforce)는 프로그래머의 AI 기반 코딩을 지원하기 위해 오픈소스 프로젝트로 CodeT5를 출시했습니다.

이처럼 LLM의 발전과 오픈 소스 코드의 폭넓은 가용성은 간결하고 고품질의 지능형 코드 생성을 촉진할 것입니다. 또한 이러한 시스템은 코드를 한 언어에서 다른 언어로 번역하여 애플리케이션의 코드를 더 넓은 커뮤니티에 개방할 것입니다.

 

4. AI 솔루션의 수직적 통합

아마존, 구글, 마이크로소프트와 같은 최고의 AI 공급업체들은 현재 AI 기반 제품을 상용화하고 있습니다. Amazon Connect와 Google Contact Center AI는 더 나은 컨택 센터 관리를 위한 노력의 일환입니다. 두 제품 모두 컨택 센터 상담원에게 자동화된 지원을 제공하고 봇을 통해 대화를 유도하는 ML 기능을 활용합니다. 

또한 Microsoft의 Azure Percept는 엣지에서 컴퓨터 비전 및 대화형 AI 기능을 제공합니다. 이 서비스는 Azure의 IoT, AI 및 에지 컴퓨팅 서비스를 기반으로 합니다. 이러한 모든 기술, LLM의 최첨단 연구, 대화형 및 멀티모달 AI의 융합으로 2022년에는 슈퍼 AI의 개발이 가능해질 것입니다.

 

5. AI가 만들어내는 발명품

AI는 이미 음악, 예술, 문학 창작부터 과학 이론 개발에 이르기까지 거의 모든 영역에서 발명의 원동력이 되고 있습니다. 최근 인공 발명 기계인 다버스(DABUS)는 특허를 받을 수 있는 두 가지 발명품에 대한 아이디어를 내놓았습니다. 첫 번째 발명은 주의를 끌고 수색 및 구조 작업에 도움이 되는 장치에 관한 것이고, 두 번째 발명은 음료수 용기의 일종입니다. 

또한, 다버스 머신은 어떤 아이디어를 떠올려도 감성적으로 감상하는 것으로 관찰되었습니다. 고급 AI 시스템이 구축되면 복잡한 문제를 해결하는 이러한 발명품의 수는 향후 몇 년 동안 상당히 증가할 수 있습니다.

멀티모달 AI의 발전은 AI가 생성한 이미지, 인포그래픽, 심지어 동영상까지 구현하는 '크리에이티브 AI'의 다음 물결을 일으킬 것입니다.

 

 

 

맺음말

 

인공 지능의 범위가 아직 완전히 실현되지는 않았지만, 전 세계 연구자들로부터 엄청난 관심을 받고 있습니다. 인공 지능은 수많은 위험을 내포하고 있지만, 인공 지능을 달성하면 우주와 그 너머의 매혹적인 신비를 풀 수 있기 때문에 인류에게 중요한 업적이 될 것이라고 AI 전문가들은 생각합니다.

예측할 수 없는 초지능의 특성과 악의적인 초지능이 초래할 수 있는 끔찍한 결과를 둘러싼 불확실성과 두려움에도 불구하고 오늘날 슈퍼 AI의 미래는 매우 밝아 보입니다. 앞으로 수십 년이 지나면 초지능의 실체가 밝혀질 것이며, 초지능이 인류에게 이익이 될지 해가 될지 알 수 있을 것입니다.

 

 

 

 

 

[원문 출처]

 

What Is Super Artificial Intelligence (AI)? Definition, Threats, and Trends - Spiceworks