문서의 임의 삭제는 제재 대상으로, 문서를 삭제하려면 삭제 토론을 진행해야 합니다. 문서 보기문서 삭제토론 카타고 (문단 편집) === 역사 === 2019년 2월에 논문 작성에 필요한 데이터를 얻을 겸하여 proof of concept을 겸한 트레이닝을 시작했다(g65). 35개의 V100 GPU를 이용하여 학습한 결과, 1주만에 릴라 제로 130번 네트워크와 비슷한 기력을 달성했다. 2019년 6월에 신경망 구조와 프로그램을 개선하고 28개의 V100 GPU를 사용하여 19일 동안 학습한 결과(g104), [[ELF 오픈고|ELF v2]]와 비슷하거나 살짝 떨어지는 기력을 달성했다. 집 차이를 보여주는 기능은 흥미롭긴 했으나, g104의 가중치들은 대부분의 국면에서 실제보다 훨씬 과장된 값을 보여주었기 때문에 아주 유용했다고 말하기는 어렵다. 2020년 1월에 더욱 개선하고 일본 규칙 지원 및 접바둑 학습 향상 등을 추가하여 새로운 training run(g170)을 시작하였다. 2월부터는 동일 시간[* visit의 수가 수백에서 수십만 사이에 놓이도록 하는 범위에서.] 조건 하에서 [[릴라 제로]]보다 더 강한 기력을 내는 것 같다는 유저들의 실험 결과가 등장하기 시작했다. 집 차이 계산도 g104 때와는 비교할 수 없이 정확해졌다. 접바둑 성능도 훨씬 향상되었기 때문에 [[한큐바둑]]에서 카타고 AI봇들이 9단 계정들을 상대로 3점~5점 접바둑을 두는 광경을 많이 볼 수 있게 되었다.[* 기보나 전적을 확인하고 싶다면 2월 현재를 기준으로 활약 중인 神机C, 里拉复盘 등의 닉네임을 한큐바둑에서 검색하면 된다.] 2월 중에 20블록 가중치의 자가대국을 종료하고 '''30블록 320필터''' 및 '''40블록 256필터'''의 두 종류의 가중치로 옮겨갔으며, 2020년 2월 28일에는 v1.3.3 엔진과 함께 처음으로 30블록과 40블록 가중치를 공개하였다. 이 두 가중치의 학습을 동시에 진행하는 이유는 기존 규격인 20블록 256필터에서 크기를 더 키우기는 해야겠는데 어느 방향이 옳을지를 잘 모르겠어서라고. 1 visit 당 요구되는 연산량은 블록 수에는 비례 관계가, 필터 수에는 대략 제곱에 비례하는 관계가 있기 때문에 30블록 320필터가 40블록 256필터에 비해 약간 더 무거운 규격이다. 또한 30블록과 40블록 가중치의 학습과정에서 나오는 자가대국 기보로 기존의 20블록 256필터 가중치도 계속해서 학습시켰고, 이후의 가중치 업데이트 시에는 20블록, 30블록, 40블록이 모두 업데이트되었다. 2~3주 간격으로 가중치 업데이트가 계속해서 있어오다가, 5월 7일에 업데이트된 가중치를 끝으로 순수한 자가대국만을 이용한 반-제로 방식의 네트워크 학습은 종료되었다. 6월 6일에 새로운 가중치가 업데이트되었다. 기존처럼 비어 있는 바둑판에서 자가대국을 통해 학습 데이터를 만드는 것에 더해서, 실험적으로 빈 판이 아니라 특정한 국면에서 자가대국을 시작하는 방식 또한 도입하였다. 자가대국에서 잘 나오지 않는 다양한 국면에 대한 학습 또한 진행하기 위함이다. 인간이 둔 바둑의 일부 국면과, 특정 난해한 정석 형태에 대한 추가적 학습으로, 인간이 둔 수는 확실하게 좋을 때 제한적으로만 참고하고 기본적으로는 자가대국을 이용해 학습하였다. 6월 22일에 마지막으로 learning rate을 낮추어 학습시킨 가중치가 올라왔다. 40블록의 경우 이전 네트워크보다 Elo 레이팅이 200 이상 증가하였고, 20블록도 100 이상 증가하였다. 이 때 40블록 384필터짜리 대형 가중치도 공개했는데, 얼마나 강한지 테스트해보지는 않았다고 한다. Jane Street에서 프로젝트에 지원하던 금액이 중단된 이후로도 lightvector가 사비로 GPU를 빌려 학습시키고 있었으나 일단 여기서 잠정적으로 마무리하고, 추후에 릴라 제로처럼 분산시켜 훈련시킬 수 있도록 웹 개발이 더 되면 다시 훈련할 의향을 밝혔다. 12월 말부터 [[릴라 제로]]처럼 분산 자가대국을 통한 학습을 제한된 참가자에 한해 시작하였고, 2021년 1월 말부터 제한 없이 기여할 수 있도록 전환하였다. 기존 g170 run의 연장선상이며, 기존보다 강한 새로운 40x256 가중치를 훈련 중이다. 하루에 10만판정도의 자가학습대국과 기존 네트워크와 비교하기 위한 레이팅 대국 3500판 정도가 익명의 기여자들로부터 업로드 된다. 최근엔 대형 기여자들이 기여를 중단하면서 이보다 7~8배 적은 양의 데이터가 기여된다 2021년 2월 27일 카타고 60블럭이 pre release 됐다. 60블럭 320필터로 굉장히 무거운 네트워크. 참고로 골락시가 50블럭이라고 한다.아직 기존 버전들 보다 약하다. 2021년 3월 26일 카타고 자가대국학습 사이트에 업로드 된 자가학습대국의 판 수가 1000만 판을 돌파했다 2021년 6월 29일 카타고 1.9.0 버전이 출시 됐다. 대칭을 이용한 분석이 가능하며, 몇가지 검색 트리를 개선해 같은 네트워크에서 기존보다 75ELO 정도 강해졌다고 한다. 2021년 7월 6일 자가학습대국의 판 수가 2000만 판을 돌파했다. 2022년 3월 19일 자가학습대국의 판 수가 3000만 판을 돌파했다. 2022년 11월에 열린 14th UEC 인공지능 바둑 대회에서 준우승을 차지 했다. 1위인 SymplectGo가 카타고에서 몇가지 사항을 개선한 일종의 카타고의 클론이라는 점.그리고 다른 상위권 인공지능들에 비해 하드웨어가 불리 했다는 점을 감안 하면 정말 좋은 성적을 거둔 것이다.[* 이 대회에서 상위 5개중 3개의 인공지능이 순수 카타고 포함 카타고의 클론으로 확인 되었다.] 2023년 1월 사활에 버그가 발견되었다.[[https://goattack.far.ai/human-evaluation#human_vs_kata100k|#]] 집을 이중으로 둘러싸는 모양을 만들면 집 계산에 오류가 생긴다. 기존 바둑 AI의 약점을 찾는 인공지능인 FAR AI를 통해 발견되었다.[* 자세한 설명은 논문을 읽어보자.[[https://arxiv.org/pdf/2211.00241.pdf#appendix.H]]] 이 프로젝트에 참여한 미국의 아마 강자 켈린 펄린은 바둑 실력은 아마추어 수준이지만 이 방법을 사용해 현 최강급 카타고를 상대로 14승 1패의 결과를 냈다. 심지어 카타고를 상대로 '''9점을 접어주고'''도 승리하기도 했다.([[https://gall.dcinside.com/baduk/845552|9점 접바둑 기보]]) 이 버그는 세계최고급의 인공지능인 [[골락시]]와 [[절예]], 그리고 오픈소스 인공지능인 [[릴라 제로]] 와 [[ELF 오픈고]] 또한 비슷한 버그가 확인 되었다. 사실상 [[알파고]]제로의 논문을 바탕으로 만들어진 모든 인공지능이 비슷한 오류를 갖고 있고. 전문가들은 알파고제로 또한 이런 약점이 있을 가능성이 매우 높다고 본다. 카타고는 이후 검색트리를 개선하고, 이와 같은 오류를 일으키는 기보들로 학습을 하여 개선되고 있다.10억visit으로도 카타고가 인지 하지 못하던 기보들은 현재 수십만visit 정도로 해결되는 등. 굉장히 좋아졌다고 말할 수 있지만.다시 엄청난 검색으로도 제대로 인지하지 못하는 기보도 가끔 나온다. 정리하자면 비교적 개선은 많이 되었지만.해결 되었다고 말 할 순 없다. 2023년 3월 20일 카타고 40b의 마지막 네트워크가 업로드 되었다 이제 18블럭과, 60블럭만이 업로드 된다. 2023년 3월 29일 60b의 훈련이 중단 되었다 이제 훈련은 18b으로만 진행되고, 60b은 주기적으로 업로드 된다 한국시간으로 2023년 5월 10일 카타고 자가학습 대국의 판 수가 4000만 판을 돌파했다. 2023년 6월 13일 새 버전인 optimism policy를 적용한 18블럭 새 네트워크가 업로드 되었다. 이 개선으로 그 전 버전의 엔진 보다 수를 찾는 훨씬 능력이 올라갔다. 유튜브에 올라와 있는 '카타고도 못 본 수'나 '인공지능도 못 본 수'라고 소개 되는 거의 대부분의 묘수들은 수K~수십K의 visits(수천~수만) 안에서 찾아낸다.[* 이 이유로는 검색엔진의 개선도 있지만,지금까지 나온 묘수들을 여러 이용자들이 카타고 개발자인 lightvector에게 알려,학습에 활용하고 있기 때문이기도 하다.] 따라서 분석을 할 때 달라진게 더 체감이 된다. 가장 강한 이전 버전 18블럭보다 60ELO 이상,심지어 가장 이전 버전 60블럭 보다도 40ELO 이상을 끌어 올렸다. 카타고가 근 1년간의 1000만판에 가까운 자가학습 대국과, 크고 작은 엔진의 개선으로는 30ELO의 성장 밖에 못했다는 것을 보면 굉장할 정로 오른 것 [* 60블럭 기준] 현재 18블럭,60블럭,40블럭의 가장 강한 네트워크들을 Elo 계산방식을 이용해 비교하면 18블럭 VS 60블럭 약53:47 18블럭 VS 40블럭 약72:28 60블럭 VS 40블럭 약69:31 정도이다. 이는 동일한 비짓수를 기준으로 나타낸 예상 승률이기에 같은 하드웨어 에서 같은 시간을 기준으로 했을 때와는 차이가 있으며. 따라서 18블럭이 60블럭에게 갖는 이점은 이 보다 더 크다. 고사양 동일 하드웨어에서 동일 시간을 기준으로 하면 18블럭 VS 60블럭 약67:33 18블럭 VS 40블럭 약72:28 60블럭 VS 40블럭 약55:45 인데. 60블럭이 18블럭 40블럭에 비해 약2배의 무게를 가지고 있기 때문이며. 이 비율은 고사양 컴퓨터(인공지능 대회급 하드웨어)에서의 2배visit=약100Elo를 적용한것이고,수당 수백k에서의 결과는 2배 visit은 적어도 200Elo이상의 위력을 가진다고 한다. 한국시간으로 2023년 7월 22일 각 가중치의 Elo를 비교하기 위한 레이팅 게임의 판 수 가 100만판을 돌파했다 2023년 10월 27일 9줄 바둑 전용 신경망이 pre-release 됐다. 이는 기본 카타고로 9x9를 플레이 하는 것보다 확실히 강하다고 한다. 하지만 이 9줄 전용 신경망은 다른 보드 크기의 바둑에서는 기본 카타고 보다 강하지 않으며, 오히려 약하다고 한다. 동시에 [[https://katagobooks.org/|카타고 오프닝 북]]에 9x9 오픈북이 개설 되었다. 하지만 이전에 올라온 보드 크기 중 가장 큰 8x8사이즈 보다도 훨씬 경우의 수가 많기 때문에, 다른 오프닝 북 처럼 어느정도 풀어냈다의 수준조차도 안된다고 한다. 아직까진 단순히 많은 연산을 한 카타고의 분석을 모아 놓은 정도이다. 오프닝 북에서 오류를 발견했을 때는 언제든지 알리라고 한다. 한국시간으로 2023년 11월 6일 카타고의 자가대국 판 수가 5000만판을 돌파 했다.저장 버튼을 클릭하면 당신이 기여한 내용을 CC-BY-NC-SA 2.0 KR으로 배포하고,기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다.이 동의는 철회할 수 없습니다.캡챠저장미리보기