디지털투꽁 머니 카지노 3 만 (DigitalToday)

[디지털투꽁 머니 카지노 3 만 AI리포터] 일본어 특화 대규모 언어 모델(LLM) '후가쿠 LLM'(Fugaku-LLM)이 공개됐다고 13일(현지시간) 온라인매체 기가진이 전했다.

도쿄공업대와도호쿠대, 후지쯔, 이화학연구소는 2023년 5월부터 해당 모델을 개발하기 시작했다. 8월부터는 나고야대,사이버 에이전트, 코토바 테크놀로지스(Kotoba Technologies)가후가쿠 꽁 머니 카지노 3 만 개발에 합류했다.

연구팀은 트랜스포머(Transformer) 모델군의 '메가트론 딥스피드'(Megatron-DeepSpeed)를 후지쯔의 슈퍼컴퓨터 토미타케(Tomitake)에 이식하여 최적화하는 데 성공했다.

이에 연산 속도가 6배, 통신 속도는3배 빨라졌다. 후지쯔의 국산 CPU를 사용해 대규모 언어 모델을 학습하는 데 성공한 이 연구는 일본의 반도체 기술 활용과 경제 안보 측면에서 중요한 성과로 평가받고 있다.

이미 일본어에 특화된 대규모 언어 모델은 다수 존재하지만, 대부분의 모델은 해외에서 만든 모델에 일본어 학습 꽁 머니 카지노 3 만터를 추가 학습시키는 방식으로 개발되고 있다. 반면 후가쿠 LLM은 사이버 에이전트가 수집한 자체 학습 꽁 머니 카지노 3 만터를 이용해 처음부터 학습하는 것이 특징이다.

학습 꽁 머니 카지노 3 만터의 60%는 일본어 콘텐츠이며, 그 외에 영어, 수학, 코드 등이 포함되어 있다. 또한 파라미터 수가 130억개로, 약 70억개인 다른 일본어 특화 LLM보다 규모가 크다.

이 모델은 일본어 성능을 측정하는 벤치마크 테스트 'Japanese MT-Bench'에서 평균 5.5점을 기록했다. 특히 인문사회계 과제에서 9.18점을 기록해 일본어의 특징을 고려한 자연스러운 대화가 가능할 것으로 기대된다.