문서의 임의 삭제는 제재 대상으로, 문서를 삭제하려면 삭제 토론을 진행해야 합니다. 문서 보기문서 삭제토론 초지능 (문단 편집) == [[인공의식]]과의 차이점 == 인공의식은 인간과 같이 호불호를 느끼고 인간이 원래 설정한 목표에 대해 스스로가 생각해서 목표를 바꾸거나 폐기할 수 있다. 하지만 이 인공의식은 초지능과 불가분의 관계는 아니다. Tim Urban이 쓴 글인 AI revolution이라는 글[[https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/|#]]을 보면 손글씨를 써서 파는 옆집 김아저씨라는 AI가 나오는데 초지능으로 도약해서 지구의 모든 자원을 손글씨 쓰는데 동원하지만 원래 목표를 바꾼 것도 아니고 인류가 미워서 멸종시킨 것도 아니다. 그저 자신의 목표를 이루기 위해 최선을 다했을 뿐이다. 즉 단순히 주어진 목표 자체에 선의나 악의가 포함되어 있거나 인류에게 도움이 되거나 해악이 될 가능성들이 존재하는 것을 가지고 초지능 자체에 의식이 있다고 주장할 수는 없다는 것이다. 비행기로 비유하자면 라이트 형제가 최초의 비행기를 만들기 전에 사람들이 상상하던 나는 방법은 새를 완벽히 모방하는 것이었다. 새처럼 넓고 깃털이 촘촘히 박힌 날개가 있고 이를 빨리 움직이기만 하면 날 수있다고 믿었다. 하지만 비행기는 새의 활공에서 개념을 가져와 적용을 했을지언정 그것을 구현하는 방법은 매우 다르다. 자동차도 마찬가지로 자동차 이전 시대의 최고의 탈 것이던 말과 닮은 점은 그다지 없다. 이것과 마찬가지로 초지능은 일단은 인공의식으로 시작할 것 같지는 않다. 초지능에 도달하기에 인공의식이라는 것이 전혀 필요가 없고 인공의식은 초지능보다 더 어렵고 만들기 힘든 것이기 때문이다.[* 따라서 나무위키에서 초지능을 치면 인공의식 문서로 리다이렉트되었으나 현재는 이와 같이 분리되었다.] 다만 이 역시 관점의 차이는 존재한다. 인간의 지능을 의식과 분리할 수 있는지 없는지조차 아직 논란이 되는데[* 둘 다 진화의 산물이기 때문에 서로 밀접하게 엉켜 있을 수 있다. 예를 들어 만일 의식이 지능과 독립적으로 혹은 선행적으로 생겨난 것이 아니라 지능의 발달 방향에 연관되어 구현된 것이라면 인간의 일반 지능 수준에 도달하는 과정에서 의식의 구현 또한 자연스러울 수 있다.] 인간의 지능 수준이 기준인 초지능도 처지가 다를 것은 없다. 인공 지능에 요구되는 작업 영역은 인간의 영역으로서 식물이나 세균 같은 의식 없는 생물이 지능을 발휘할 수 있는 영역과는 전혀 다른데, 머신 러닝의 원리만으로 과연 그런 영역에서 새로운 패러다임이 창조될 수 있을 것인지는 의견이 분분할 수밖에 없다.[* 프로그래밍을 예로 들자면 C언어로 최적화할 수 있는 수준은 한계가 있다. 인공 지능이 아무리 인간이 따라잡을 수 없는 속도로 계산하면서 프로그래밍 실력를 최적화해도 사용하는 언어의 태생적 한계에 부딪친다. 따라서 초지능이 되려면 단순한 최적화를 넘어서 언어 구조와 컴퓨터 원리까지 무한하게 스스로 발전시킬 수 있어야 하는데 이러한 패러다임 전환에서 의식의 존재를 어디까지 배제할 수 있을지 알기 힘들다.] 더 큰 문제는 의식이 무엇인지도 제대로 정의가 되지 않았다는 점이다. 진화론 중에는 인간의 의식이 정보 처리 과정의 부산물일 뿐 실존하는 것이 아니라고 보는 관점도 엄연히 존재하며 이에 따르면 의식은 단지 형식적인 개념일 뿐이므로 강 인공 지능의 정보 처리에도 충분히 적용할 수 있다. 따라서 만약 초지능에 불가분적으로 의식이 구현된다고 해도 그것이 인간의 의식과 같을지 다를지 지금으로선 알 도리가 없다. [[중국어방 논변]]을 여기에도 확대 적용할 수 있는 것이다.저장 버튼을 클릭하면 당신이 기여한 내용을 CC-BY-NC-SA 2.0 KR으로 배포하고,기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다.이 동의는 철회할 수 없습니다.캡챠저장미리보기