Chatgpt 또는 Gemini와 같은 생성 인공 지능 모델은 몇 초만에 컴퓨터 코드를 수정하거나 셰익스피어 스타일로 소네트를 구성하거나 블랙홀의 물리학을 설명 할 수있는 이유는 해당 모델을 훈련 한 데이터 세트가 인터넷 전체라는 것입니다. 그러나 많은 정보를 얻고 처리하는 것은 엄청나게 비싸고 시간이 많이 걸립니다.
그 이유는Kangwook Lee, 조교수룰렛부서전기 및 컴퓨터위스콘신 대학교-매디슨 대학교에서 National Science Foundation Career Award를 사용하여 모델 러시안 룰렛 게임을위한 이론 및 도구를 개발하거나 이러한 대규모 미리 훈련 된 모델을 특정 작업에서 효율적으로 작동하도록 조정하고 있습니다. 목표는보다 타겟팅 된 (따라서 더 유용한) AI 도구를 만드는 것입니다.
최근에 기계 학습 연구원들은 처음부터 교육 모델을 개발할 수있었습니다. 그러나 필드가 발전함에 따라 이러한 모델을 만드는 데 더 많은 비용이 들었습니다.
“거의 매주 새로운 모델 러시안 룰렛 게임 방법이 개발되고 있습니다.”라고 Lee는 말합니다. "그러나 우리는이를 설명하는 명확한 프레임 워크가 없으며 이러한 새로운 방법으로 무슨 일이 일어나고 있는지에 대한 명확한 이론적 이해가 없습니다. 따라서이 프로젝트의 동기는 이러한 새로운 기술에 대한 새로운 이해를 개발하여 미리 훈련 된 모델에서 다운 스트림 작업으로 지식을 러시안 룰렛 게임 시키거나 전송하는 것입니다.".
모델 러시안 룰렛 게임의 초기 반복에서 Lee는 연구자들이 수백만 또는 수십억의 "튜닝 노브"가있는 모델을 가져 와서 특정 작업을 위해 모델을 최적화하기 위해 조금씩 조정할 것이라고 말했다. 그러나 새로운 기계 학습 모델은 너무 커서 모든 "노브"를 조정하는 것이 엄청나 다.
대신, 새로운 모델 러시안 룰렛 게임 기술은 대부분의 튜닝 노브를 고정시키고 작은 손잡이 세트 만 조정합니다. 일부 최신 모델 러시안 룰렛 게임 방법은 튜닝 노브를 조정하지 않습니다. 단순히 모델에 래퍼를 적용합니다. 즉, 하나의 응용 프로그램을 대상으로하는 사용자 정의 인터페이스입니다.
그의 프로젝트의 봉사 활동 부분의 일환으로 Lee와 그의 학생들은 사람들이 코딩이나 교육이 필요하지 않은 자신의 전문 AI 모델을 만들 수있는 도구를 개발하고 있습니다. LEGO 블록처럼 쌓을 수있는 음성 인식 또는 쓰기와 같은 응용 프로그램을위한 잘 개발 된 AI 모듈이 이미 있습니다.