문서의 임의 삭제는 제재 대상으로, 문서를 삭제하려면 삭제 토론을 진행해야 합니다. 문서 보기문서 삭제토론 인공지능/논란 (문단 편집) === 부정적 가능성에 대한 관심과 대처가 필요하다는 의견 === > “인공지능은 스스로를 개량하고 도약할 수 있는 반면, 인간은 생물학적 진화 속도가 늦어 인공지능과 경쟁할 수 없고 대체되고 말 것” > - [[스티븐 호킹]] 이론물리학자 [[http://www.hani.co.kr/arti/international/international_general/667299.html|#]] > "수십 년 후에는 (인공)지능이 우려할 만한 수준으로 심해질 것”[* 정작 [[마이크로소프트]]는 [[인공지능]]개발의 선두주자 중 하나다. 이를 언행불일치라고 생각할 수도 있겠지만 기술의 발달을 막는 것은 쉬운 일이 아니며 만약 마이크로소프트가 개발을 중단하더라도 다른 기업, 국가에서는 계속 개발했을 것이다. 당장 산업혁명 시기 영국은 자동차로부터 마부를 보호하기 위한 적기조례를 제정하였지만 자동차의 발전과 마부의 몰락은 피할 수 없었으며 오히려 타 국가에 비해 영국 자동차 산업을 뒤쳐지게 만들었다 ] > - [[빌 게이츠]] [[마이크로소프트|MS]] 회장 [[http://www.zdnet.co.kr/news/news_view.asp?artice_id=20150129080746|#]] > "인공지능의 발달은 영화 '터미네이터'와 같은 끔찍한 일을 현실에서 일어나게 만들 수도 있다" > “인공지능 연구는 악마를 소환하는 것이나 다름 없는 현존하는 가장 큰 위협 요소"[* 6개월간 연구를 멈추자고 할 정도로 우려하는 모습을 보였지만 정작 본인도 [[https://m.yna.co.kr/amp/view/AKR20230417001700075|새 AI 법인]]을 세웠다.] > - [[일론 머스크]] [[스페이스X]], [[페이팔]], [[테슬라]] CEO [[http://www.ittoday.co.kr/news/articleView.html?idxno=55945|#]] > “윤리와 도덕 같은 인간이 소중하게 여기는 가치들을 정교하게 정의해서 기계에 가르치는 방법을 준비해야 한다.” > - [[트랜스휴머니즘|트랜스휴먼]]협회장&영국 옥스퍼드대 [[닉 보스트롬]] 교수[* 인공지능의 위험을 경고해온 교수인데, '그러니 인공지능이 발전하면 안 된다'가 아니고, '철저히 관리하고 통제해야 한다'라는 주장임을 명심하자.] [[http://www.ciokorea.com/news/25265|#]] > "이세돌과 알파고의 대국에서 사람들이 목격한 건 혹시 ‘알파고의 영혼’이었을까? 영혼도 계산의 결과물로 얻을 수 있는 거라는 끔찍한 현실을 목도한 건 아닐까? 조만간 봄이 올 것이다. 인공지능에게도." > - [[정재승]] [[카이스트]] 바이오및뇌공학과 교수 [[http://www.hani.co.kr/arti/science/science_general/734577.html|#]] > "알파고의 놀라운 실력에 당황하는 이세돌 九단의 얼굴에서 나는 우리 모두의 미래를 봤다. 머지않은 미래에 변호사들은 '변호사 알파고'를 경험할 것이고, '기자 알파고'는 수많은 기자 [* 실제로 현재 워드 스미스라는, 1년에 10억 개의 기사를 쓰는 시스템이 있다. [[http://www.earlyadopter.co.kr/2621|#]] ]를 당황하게 할 것이다." > - 김대식 [[카이스트]] 전자과 교수 > "오늘은 전문가들까지 실수로 생각했던 알파고의 서너 개의 수가 있었습니다. 그러나 대국에서 그러한 수들이 오히려 더 좋은 수였다고 판명되었기 때문에, 단순히 무시하고 넘어갈 수 없었죠. 만약 이것이 누군가의 생명이 달린 의학 분야와 같은 실제 세계에서 일어난다면, 전문가들은 중대한 오류라고 생각한 것도 일반인들은 인공지능의 판단이 더 큰 관점에서 옳은 판단이라 생각하고 수용하게 될 것입니다. '''많은 혼란을 초래할 텐데, 어떻게 생각하십니까?'''"[* 다른 질문들과는 조금 다른 맥락에서 AI를 경계하는 질문이다. 동시 통역사의 오류가 있어 일반 언론에는 뜻이 반대로 전달되었다. 원문 : Today there was that sequence of three to four AlphaGo moves which looked like an unfathomable mistake to even the experts. But they couldn't dismiss it because mistakes have previously turned out to be advantageous. If this happens in real world usage something medical where someone's life depends on it and even to experts it looks like a grave error but people accept it thinking it has a bigger picture in mind. It will cause a lot of confusion. what do you think about that?][* [[http://news.zum.com/articles/29351417|국내 언론의 잘못된 보도]] 탓에, 많은 사람들이 이 질문을 ‘[[http://gall.dcinside.com/board/view/?id=baduk&no=111977|인공지능의 무결성을 어떻게 보증할 수 있느냐]]’라는 질문이라고 받아들였다. 그러나 이 기자의 질문은 인공지능 또한 완전무결한 존재가 아닌데 '''일반 대중이 인공지능을 완전무결하다고 믿고 기계의 판단을 맹목적으로 추종하게 될 가능성'''에 대한 것이다. 실제로 [[구글 딥마인드 챌린지 매치]] 이후로 인공지능의 발전을 경계하는 목소리 못지 않게 눈에 띄는 주장이 바로 지금까지 인간이 맡아온 각종 전문 분야를 기계에게 맡기는 것이 더 공정하고 정확하지 않겠느냐는 것이다. 즉, 완벽해서 신경쓰지 않아도 별 상관 없는 것과, 완벽에 가깝지 않은 것을 구분 못하는 상황을 경계하라는 것이다.] [* [[호시 신이치]]의 단편 중 '하마님 おカバさま'라는 소설이 이 질문의 내용과 비슷한 주제를 다룬다. AI가 하마를 애지중지하라는 어이없는 정책을 내놓아 많은 사람들의 의아해 했으나, 훗날 대기근이 들자 하마를 잡아먹으라고 하면서 사람들은 AI의 선견지명에 감탄했다. 하지만 좋았던 건 여기까지고, 그 후로 진짜 AI가 실수를 하는 것까지 사람들은 무슨 이유가 있겠지 하면서 곧이곧대로 따르게 된다.] > - [[NHK]]의 기자 > "체스와 장기는 왕을 잡는다는 명확한 목표가 있어서 컴퓨터가 강하다. 하지만 바둑은 목표가 확실하지 않아서 컴퓨터가 사람을 이기기 힘들다. 그런 바둑에서 컴퓨터가 사람을 이기게 되면, 사람들은 기계를 위해서 살아가게 될 것이다."[* 오늘날의 컴퓨터로도 체스, 장기 및 바둑의 가능한 수를 전부 검토하는 것은 불가능하다. 따라서 컴퓨터는 특정 규칙을 가지고 유리한 수만 탐색해 나가는데, 체스는 비교적 경우의 수가 적고 목표가 뚜렷하기에 인간이 직접 탐색 규칙을 세밀하게 설계할 수 있었다. (그 예로 대원칙이 '킹을 [[체크메이트]] 상태로 만든다'라면 세부 규칙은 '일반적인 경우에는 가치가 높은 기물을 가치가 낮은 기물과 맞교환하지 않는다', '폰의 가치는 앞으로 나아갈수록 상승한다', '불리한 상황일 때는 무승부를 유도한다'가 있다. 물론 실제로는 더 정밀하고 복잡하다.) 그러나 바둑은 직접 규칙을 설계하기 힘들고, 한다 해도 성능이 낮았었다. 그런데 알파고는 대원칙만 주고 스스로 탐색하게 하였더니 세부 규칙을 혼자서 세운 뒤 이를 이용해 인간을 꺾은 것이다. 즉, 이는 인간이 직접 알고리즘을 작성하지 않아도 기계 혼자 배울 수 있음을 의미하며, 이는 각종 분야 전부에 적용된다.] > - [[조치훈]] 九단 10분 30초 [[http://blog.naver.com/kurayami89/220353527575|#]] > “인공지능은 금세기 최대의 위협으로서 인류를 멸종시키게 될 것이다. 프로그램되지도 않은 상태에서 아타리 게임을 스스로 배워 게임하는 인공지능 딥마인드의 성능이 더 진전되면 공포가 시작될 것이다." > - '''[[셰인 레그]] 딥마인드 공동 창업자''' [[http://www.ittoday.co.kr/news/articleView.html?idxno=55935|#]] > "결국에는 인간 멸종이 일어날 것 같다. 그리고 인공지능 기술은 여기에 일익을 담당하게 될 것" [* 인공지능에 의한 인류멸종은 두 가지 견해로 나뉘는데 하나는 사람들이 흔히 생각하는 [[기계의 반란]]에 의한 멸종이고 다른 하나는 인류가 더욱 높은 경지에 오르기 위해 신체를 기계로 대체해 현생 인류가 도태되는 생물학적 멸종이다.] > - '''[[셰인 레그]] 딥마인드 공동 창업자 ''' > "기계가 우리보다 지능이 더 높아지게 되면 문제가 될 수 있다" > - '''스튜어트 러셀 [[UC 버클리]]대 교수''' [[http://news.naver.com/main/ranking/read.nhn?mid=etc&sid1=111&rankingType=popular_day&oid=001&aid=0008414008&date=20160519&type=1&rankingSectionId=105&rankingSeq=4|#]] '''소수의 기득권을 제외하고, 지능과 힘의 우위가 빼앗긴 대다수 인간의 처지가 몹시 비참해질 가능성이 높다는 의견.''' 이미 1990년대에 기계가 체스에서 인간을 넘어선 것을 예로 들며 단순히 그간 컴퓨터 연산 능력이 발전하여 바둑도 정복하게 된 것으로 생각하는 사람들이 많으나, 바둑의 경우의 수는 체스와는 넘사벽으로 차이가 나기에 곧이곧대로 경우의 수를 따지는 방식으로는 현재 하드웨어 기술로도 정복할 수 없다. [[기계학습]] 등 인공지능의 방식 자체에 발전이 있었기에 가능했던 일이며, 바둑처럼 경우의 수가 너무 많아 인공지능으로 정복할 수 없다고 생각했던 분야도 기계 학습으로 해결 가능하다는 것을 극적으로 보여줬다는 점에서 의미 있는 사건이라 할 수 있다. AI 이전에도 산업혁명 이후 수많은 기계가 발명되었지만 기계가 처음 등장했을 때도 노동자들은 일자리 뺏긴다며 [[러다이트 운동|기계를 파괴하는 것으로 대응]]했고, 컴퓨터가 등장해서 급속도로 발전하자 수많은 전문가들과 미디어는 노동자들의 대량 실직과 컴퓨터에 대한 종속을 우려하는 반응을 쏟아내었다. [* [[터미네이터]] 시리즈의 등장 시점은 바로 미국에서 [[개인용 컴퓨터]], 데스크탑이 대중화되던 시기이다. 물론 '기계에 의한 인간지배'라는 클리세는 [[SF]]에서 상당히 오래된 것이긴 하지만.] 현재까지는 기계와 컴퓨터로 인해 더 많은 일자리가 생기게 되었으며, 인간들은 기계와 컴퓨터를 이용하며 잘 살고는 있는 상황이다. 그러나 기존 역사들의 사례를 가지고 미래를 예측하는 것은 주의해야 한다. 역사가 복잡다단한 인간 사회의 상호작용으로 만들어지는 만큼 Ctrl+v마냥 단순하게 흘러가지 않기 때문이다. 거시적으로 봤을 때 '''기존의 기계들은 부분적으로 인간의 손길이 필요한 도구의 연장선에 불과하지만 고도화된 인공지능은 인간의 손길이 필요 없이 스스로 생각하고 행동하는 지성체나 마찬가지인 존재라 제대로 통제가 가능할지 미지수다.''' 비행기의 자동 조종 장치가 있다고 해도 그 판단력에는 한계가 명확해서 인간 파일럿이 반드시 필요할 수밖에 없었고, 어디까지나 보조 수단에 불과했다. 따라서 최종 판단 및 마무리는 인간을 거쳐야 했기 때문에 기존의 일자리가 없어지더라도 새로운 일자리 역시 인간을 필요로 했기 때문에 실업자들을 흡수할 수 있었다. 물론 더 많은 일자리는 '''성인'''을 기준으로 한 것이기 때문에 유아, 청소년까지 한다면 일자리가 줄었다고 보는 게 타당하다. 산업혁명 이전에는 유아, 청소년도 일을 했지만 산업혁명 이후에는 인권도 인권이지만 유아, 청소년까지 줄 일이 없다시피하고 있어도 오히려 성인보다 열악한 조건이라서 일을 주지 않게 되었다. 하지만 완전한 판단을 할 수 있는 인공지능이 개발되어 기존의 기계에 장착된다면 예를 들어 비행기가 택싱, 이착륙, 각종 돌발 상황에 대한 대처 등을 파일럿 없이 지능적으로 안정적이고 자동 수행할 수 있다면 파일럿 자체가 아무 필요 없어진다. [* 그런데 사실 요즘 파일럿은 직접 조종하기 위해 배치되는 것이라기보다는 비행기 전체를 종합적으로 관리하기 위하여 배치된다는 경향이 크다. 이미 비행기는 자동 항법 장치가 조종하고 있다. 연락 두절이나 기계 이상 등 기계가 대처할 수 없어 임기응변이 필요한 상황을 위해 배치된다고 보면 된다.] 다시 말해서, '''새로운 기술이 산업 파이 자체를 키워 더 나은 생활을 창출한다는 가정은 어디까지나 인간의 보조가 필요하다는 전제 조건하에서 가능하지 정말로 수준급 인공지능이 더욱 발전해서 인간의 보조가 없어도 자기 스스로 일을 해내는 기계가 나온다면 무너진다.''' 같은 조건이라면 24시간 풀가동이 가능하며 감정과 기복이 없어 갑질이나 노사 갈등 문제도 없고 항상 균일한 품질과 생산량을 보장하는 기계가 훨씬 경제적이므로 인간을 고용할 필요가 없어진다. 위생 면에서도 기계는 전염병 등에 걸리지 않기에 사람보다 유리하다. [* [[코로나바이러스감염증-19|코로나 사태]] 이후로 자동화 설비 도입률이 빠르게 증가하고 있다고 한다.] 그리고 최신형의 로봇 및 기계일 수록 설계 자체가 잘 되어 있어 고장이 잘 나지도 않기 때문에 정비 인력 또한 수요가 급감해 버리니 대량의 실업자가 양산되어 사회문제로 떠오를 가능성이 매우 높다. [* 또한 인공지능이 더더욱 발달하면 아예 정비 기술을 익힌 로봇이 기계를 수리하게 되어 버리면 정비 인력 역시 필요가 없어져 버린다. 알파고가 보여준 가능성이라면 21세기 내에 등장할 가능성은 무시할 수 없다.] 이는 기업 경영이나 국가 경영 등 더 큰 분야에서도 마찬가지다. 쉽게 말해 현세대 기계와 컴퓨터는 인간의 제어가 없으면 아무것도 못하는 단순한 도구인 반면 인공지능은 인간의 제어가 없어도 자체적으로 생각하고 행동하기에 인간보다 지능이 떨어질 때는 통제가 가능하겠지만 약인공지능에서 강인공지능으로 도약하기만 해도 통제가 점점 어려워질 테고 아예 인간의 지능을 넘어서는 초지능의 경지에 이르면 인간이 통제할 수가 없다. 괜히 관련 분야의 유명인들이 인공지능을 경계하라는 것이 아니다. 인공지능을 경계할 필요가 없다는 입장에선 인공지능도 알고리즘으로 구성되는 만큼 충분한 제어가 가능하다고 주장하지만 날이 갈수록 복잡해지는 세상에서 이런 통제가 항상 통한다는 보장은 없다. 영국 옥스퍼드 대학의 칼 프레이와 마이클 오스본 교수의 논문(2013)에 의하면, 20년 내에 없어질 가능성이 높은 직업 상위권은 다음과 같다. 괄호 안은 없어질 확률을 나타낸다. * 텔레마케터(99%) * 경리(세무) Tax Preparer (99%) * 경리 Bookkeeping, Accounts and Audits Clerk (98%) * 회계사 Accountants and Auditors (94%) * 소매판매업자(92%) * 전문작가(89%) * 부동산중개인(86%) * 기계전문가(65%) * 비행기조종사(55%) * 경제학자(43%) * 건강관련기술자(40%) * 배우(37%) 윗 문단에서는 이들의 발언을 비판하는데, 이는 그들의 요지를 잘못 이해한 것이다. 그들의 요지는 '''무분별'''한 인공지능 개발 및 발전이 이루어 질 경우 판도라의 상자를 여는 것과 같다는 의미지 인공지능 개발을 하지 말자는 것이 아니다. 당장 MS의 빌 게이츠도 인공지능을 개발 중이며 일론 머스크는 AI 신기술에 대해 지속적인 모니터링을 위해 마크 주커버그 페이스북 CEO와 함께 인공지능 기업 '비카리우스(Vicarious)'에 4,000만 달러를 투자했다. 투자하면 기업내부 비밀을 열람할 권리가 주어지니까 세계적인 천재가 무분별한 기술개발을 우려하여 '''인류를 구하기 위해''' 4,000만 달러를 투자했다는 기사가 있다.[[http://nownews.seoul.co.kr/news/newsView.php?id=20141119601016|“단순히 돈 벌려고 투자한 것이 아닌 신기술에 계속 시선을 두기 위한 것” 이라면서 “비카리우스의 최종 목적은 인간처럼 생각하는 컴퓨터인데 터미네이터 같은 재앙적인 결과가 나올지도 모르겠다”]] 인공지능이 발전한다고 인간의 일자리가 완전히 사라지지는 않겠지만, 상당한 비율로 '줄어들' 것임은 누구나 인정하는 사실이다. [* 긍정적 문단에서는 마부라는 직업은 줄어들었으나 자동차 산업 관련 분야의 직업은 늘었다고 언급하였지만, 지금은 그 자동차 직업군조차도 공장들의 자동화 시스템들의 개량으로 인간을 필요로 하는 부분이 생각보다 많지 않다. 또한 새로운 직업군이 생겨나 사라지는 직업군들을 대체할 테니 걱정할 것이 없다는 것이 위의 언급이었으나 과학 기술들의 발달로 지금의 단순 노동을 포함한 각종 직업군의 능력을 베껴서 발휘하는 정도의 일은 얼마든지 재현해내고 있는 중이다. 빵 같은 경우엔 공장에서는 식빵 같은 건 원재료만 넣으면 산더미처럼 구울 수 있는 시스템은 21세기 는 고사하고 20세기 중반부터 만들어서 개량되고 있는 중이다.] 지금 전 세계적으로 일자리 문제가 심각하게 대두되는 것이 이 문제와 무관하지 않다. 인공지능이 궁극적으로 얼마나 인간을 대체할지는 아직 미지수다. 10%? 20%? 아니면 90%? 가장 보수적인 추정치도 충격적이긴 마찬가지다. 당장 우리나라의 일자리 10%가 공중 분해된다고 생각해 보자. 참고로 외환위기 당시 우리나라의 [[실업률]]이 10% 초반이였다. OECD는 2019년 고용 전망 보고서에서 회원국 평균 일자리의 14%가 완전히 대체될 것이며 32%는 직무 환경이 완전히 바뀔 것이라 예상했다. 한국도 비슷한 수치니 아무리 못해도 약 11~12%의 실업자가 추가된다는 거고, 이는 IMF의 재림이나 다를 바 없다는 소리다. 그리고 미국의 사례는 한국에 대입하기 어려운 것이 미국은 세계 경제를 주도하는 [[기축 통화]]국이며[* 이거 하나만으로도 미국 경제를 타국 경제와 동일선상에서 비교할 수가 없다.] 방대한 영토에 미개발 노다지가 아직도 많이 남아있는 자원 대국이고 전세계의 내로라하는 기업들이 최우선 순위로 공략하기에 투자유치가 활발한 거대 시장이며 전세계의 중저급 인력은 물론 고급 인력[* 일부 IT분야에 한해서 타국의 고급 인력이 한국으로의 이민을 고려해 본다고 하는데 이것 마저도 미국에 우선 순위가 밀리는 2순위 옵션이다.]까지 이민가는 나라로 한국과 1:1로 대입하기엔 무리가 많다. 그리고 AI를 경계할 필요가 없다는 주장에서 인간을 능가하는 인공지능이 개발된다면 인간을 위해 봉사할 것이고 하기 싫은 일을 안 하고 사는 [[유토피아]]가 올 것인데 뭐가 문제라는 식으로 적혀 있다. 물론 가능성은 있는 이야기이지만, 그러나 인공지능 역시 객관적으로 보면 도구이며 도구는 부엌칼을 예시로 들면 요리사 손에 들리면 훌륭한 조리 기구가 되지만 살인마 손에 들리면 흉악한 살인 기구가 되어 버리는 식으로 '''사용자가 어떻게 사용하느냐에 따라서 결과가 크게 달라져 버린다.''' 문제는 인공지능을 좌지우지할 칼자루를 소수 기득권층이 쥐기 쉽다는 것이다. 우리 모두의 관심이 필요할 것이다. 또 원자력 발전소가 처음 생겨나던 때에도 학자들은 원자력을 좋은 방향으로만 사용할 생각에 들떠있었지 [[체르노빌 사고]]와 같은 비극을 예측한 학자들는 극히 소수에 불과했다. 이처럼 사람이 잘 관리하지 못하면 크나큰 사고가 일어날 수 있다. 인공지능에 관해서도 이런 우려를 보여주는 사례가 벌써 나온 것이 '''[[http://news.naver.com/main/read.nhn?mode=LSD&mid=shm&sid1=105&oid=016&aid=0001020219|마이크로사가 만든 채팅봇 테이(Tay)가 실험에 나선 지 16시간 만에 홀로코스트를 옹호하고 인종차별 발언을 쏟아내자 부랴부랴 서비스를 중지시킨 사고가 터졌다.]]''' 사고 원인은 인터넷의 극단주의자들이 고의적으로 테이를 노리고 각종 인종차별 발언을 주입시켰고 도덕윤리 개념이 없던 테이가 그대로 받아들여 여과없이 학습했던 것이 화근이었던 것으로 추측이 되는데 인공지능이 챗봇 걸음마 단계여서 큰 파장이 없었지만 그 의미가 작지가 않다. 날이 갈수록 발전하는 인공지능을 특정한 세력이 노리고 ''세뇌"시키는 방식으로 조종하여 각종 범죄를 저지를 가능성을 보여줬기 때문이다. 앞으로 미래에 있을 더욱 강력한 권한을 가지고 있을 인공지능이 악인에게 세뇌되거나 한다면 매우 큰 일이 일어날 것이다. 또한 인공지능의 도입은 현 시대의 큰 문제점인 '''[[양극화|부의 재분배 문제]]를 크게 심화시킬 가능성이 매우 높다.''' [[자본주의]]의 크나큰 단점이 자본을 가진 사람에게만 크게 유리하고 그렇지 못한 사람은 크게 불리하다는 점이고 현재 전세계가 이 문제로 큰 고통을 겪고 있다. 더욱이 현재도 고도의 자동화 덕분에 실업자가 많아서 문제점인데 특성상 극소수의 인원만 필요한 인공지능이 대대적으로 도입된다면 실업자 문제는 물론이고 인공지능이 만들어낸 부를 기존의 상류층들이 더더욱 독차지하게 된다는 것이다. [[기본소득제]]같은 강력한 부의 재분배 정책이 없으면 인공지능이 만들어낸 물품들을 소비할 계층이 거의 없어져 버려서 AI가 만들어낸 각종 향유물들을 누릴 수 없게 되어 버린다는 아이러니가 생긴다는 문제점도 있다. [* AI를 경계할 필요가 없다는 입장에서 예시로 삼은 선진국 - 후진국 사례는 적절치 못한 것이 후진국은 말 그대로 산업이라는 것이 없기 때문에 실업자 문제가 심각한 것이지 기술의 발달하고는 상관없는 문제이다. 그리고 [[http://news1.kr/articles/?2600935|인공지능으로 인한 인력 감축은 이미 시작되었다]]. 인공지능이 아직 초보적 단계라는 걸 고려하면 대량 실업 문제는 가능성 밖의 문제가 아니다.] 즉, 또 다른 판도라의 상자였던 인간 배아 복제 분야 이슈에서 각국 정부가 윤리에 관련 한 법을 입법하여 관련 연구를 사회의 이익에 맞는 올바른 방향으로 바꾸어 인류에 대한 위협을 감소시켰듯이 본 사안에서도 여러 명사들이나 우려하는 사람들이 주장하는 내용은 '''인공지능의 개발을 금지하자''' 라는 것이 아니라 '''위험성이 있는 학문을 사회가 잘 감시하고 통제하는 체계를 앞으로 만들어 나가야 한다'''는 주문을 강한 어조로 하는 것이다. '''개발 자체를 금지시키는 것은 이미 비현실적이므로 개발을 하되, 기존의 시장 구조에 대격변이 일어남에 따라 발생할 여파의 피해를 최소화하고 소수의 부유한 계층이 기술을 악용하거나 독점하는 상황이 일어나지 않도록 각별한 노력을 하자는 말이다.''' 인공지능에 대해 긍정적으로 생각하는 측에서는 이러한 심각성에 대해 너무나도 안일하다. 지금까지 인류 사회는 기술이 발전할수록 새로운 분야와 직업이 생긴다고 인식해왔지만 이는 일을 할 수 있는 주체가 인간에 한정된다는 것을 전제로 하였다. [* 옛날에는 모든 일은 사람이 해야만 했다. 때문에 인간의 노동력이 중요시 여겨졌다.] 문제는 인공지능은 이러한 전제 자체를 의미 없게 만든다. 한마디로 인간에게 있어 아주 강력한 경쟁자, 아니 오히려 인간을 능가하는 능가하는 새로운 노동 주체가 생겨난 것이다. 의외로 사람들이 잘 생각하지 않는 문제점으로 일종의 [[메이드 로봇]]과 같은 연애와 성행위가 가능한 인공지능의 도래도 사실 매우 위험하게 쓰일 수 있다. 인간의 정신 수준은 아직 욕망에 강력히 구속되는 정도라서 그러한 사교욕+성욕을 충족시켜주는 수단이 있으면 그 주인이 악인이라면 인간이란 종 자체를 [[우민화|행복한 노예]]로 만들어 현실판 [[멋진 신세계]]를 만들 수 있다. 위에도 나와 있듯이 인공지능을 긍정적으로 보는 측에서는 흔히 [[공리주의]]의 대표적 사상 '''최대 다수의 최대 행복'''을 들어 강인공지능을 옹호한다. 그러나 이것은 상당히 편협한 기술인데, 먼저 "행복하기만 한다면 그만 아닐까?"라는 주장, 즉 ''' '절대 다수의 최대 행복'이라는 [[공리주의]]적 철학은 사상에 가깝지 절대 진리가 아니기 때문이다.''' 훗날 그렇게 실현된다고 하더라도 단순 행복만 바라지 않는 인간들은 또 어떤 불만을 제기할지 모르는 일이다. 더구나 [[공리주의]]문서에서도 보듯이 '행복 속에서 도태되는 인류'와 같은 것은 공리주의의 최대 약점인 결과론적 윤리를 빼다박은 것이다. 즉, '행복 속에서 도태되는 인류 사회'가 '좋은 것이다.'라는 주장은 '''자의적인 가치 판단에 따른 주장일 뿐'''이다. 분명 행복하다고 인류가 도태되는 것을 반기지 않는 사람도 있을 텐데 그러한 불만들은 어떻게 처리할지도 고민이다. 또한 그러면서 [[윤리]]나 [[도덕]]의 무용성을 주장하는데 애초 [[윤리]]나 [[도덕]]은 인공지능에 대해 토론하는 우리 인간의 '사회' 그 자체에 깊게 관여되기 때문에 완전 배제할 수 없다. 당장에 인공지능이 선하고 어쩌고 하는 가치 판단들도 다 윤리학이나 철학적 측면에서 말하는 것이 크다. 인공지능 예찬론자들은 [[인공지능]]이 "욕심에 휘둘리는 인간과는 달리 더 낫다."라고 주장하기도 한다. 이 논리 역시 한번 생각해봐야 할 것이, 인공지능은 '''프로그래머의 입김''' 하에서 자유로울 수가 없는 게 현실이다. 만약 [[기계학습]]을 통해 윤리를 배운다고 해도 "어떤 자료들을 어떤 방법으로 배울지"가 문제가 된다. 거기에다 그토록 설파하는 '절대적 객관성'이나 '선/악'의 개념이 실존하는가도 불분명하다. '''객관적이니 선이니 악이니 행복이니 하는 것들은 모두 판단하는 사람이 그렇게 판단할 때만 성립'''하는 것들이다. [[공리주의]]문제, [[악]]의 정의, 결과론적 윤리 문제 등 이런 것들을 모두 뛰어넘을 어떠한 '초월적 사상'을 A.I. 완전히 스스로 발견해내지 않는 이상은 사람들은 기득권 뿐만 아니라 인공지능에도 계속 불만을 제기할 가능성이 높다. 차라리 고도로 인공지능이 발달한다면 인공지능과의 협업으로 인간 사회와 기득권의 난제들을 해결하고, 인공지능에게 인간 사회를 통째로 맡기기 보다는 객체로서 인간 사회로 편입하는 게 훨씬 더 현실적이고 아귀가 맞는다. 마르크스가 예측한 자본주의의 종말은, 급작스러운 변화를 싫어하고 체제를 수호하는 중산층과, 생산수단의 역할이 크지 않은 서비스업과 사무직 노동 등의 성장 때문에 예측이 빗나갔다. 하지만 강한 인공지능이 출현할 경우 중산층은 일자리를 잃고 빈민으로 전락할 것이며 서비스업과 사무직 노동 등도 인공지능이라는 생산수단이 담당할 것이다. 불평등과 빈곤이라는 자본주의의 모순이 극대화되는 것이다. 하지만 봉기는 불가능하다. 근대에는 봉기가 일어났을 때 군경이 상관의 명령에 불복종하면 지도층은 쫓겨날 수 있었지만 현대에는 군경이 필요없이 드론과 로봇으로 시위를 진압할 수 있기 때문이다. 마지막으로, 위에서는 소수의 기득권이 모든 이익을 독차지하는 상황을 말했지만, 더 나아가 기득권이고 뭐고 인간 전체가 상류층, 하류층 관계없이 모두 공평하게 쪽박을 찰 수도 있다. 만에 하나라도 그런 일이 일어날 수 있으니 인공지능 개발에 관심과, 무분별한 개발이 있다면 멈출 수 있는 행동력이 우리 인류에게 필요할 것이다.저장 버튼을 클릭하면 당신이 기여한 내용을 CC-BY-NC-SA 2.0 KR으로 배포하고,기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다.이 동의는 철회할 수 없습니다.캡챠저장미리보기