📝 내용 정리

문샷 AI의 ‘키미 K3’를 둘러싼 논란이 이어지고있다. 미국에서는 문샷 AI가 앤트로픽의 ‘페이블 5’를 증류(distillation)해 모델 성능을 끌어올렸다는 의혹이 제기됐다. 미국 정부와 일부 AI 기업은 이를 핵심 기술 무단 활용 행위로 규정하며 제대 가능성까지 거론하고 있다.

특히 미국 정부는 이를 중국 AI 견제의 근거로 삼고, 미 재무장관에 이어 백악관 과학기술정책실 실장도 이를 절도에 해당한다고 지적하며 제대 가능성을 시사했다.

하지만 distillation을 과연 지적재산권(IP) 침해로 규정할 수 있는지를 두고는 의견이 엇갈렸다.

• 오픈 AI와 앤트로픽 등 프론티어 AI 기업들: 이를 막아야 한다고 주장
• 반대편 : 오랫동안 AI 업계에서 활용돼 온 일반적인 기술임을 강조

실제로 MS CEO는 “모델 제공업체들이 공개 데이터를 공정 이용으로 학습하는 것은 혁신이라 주장하면서, 정작 다른 기업들의 증류를 막으려는 것은 아이러니하다”라고 말했다.

한편에서는 중국 모델이 증류를 통해 현재 수준까지 발전했다는 주장에도 반론이 제기된다. 최근 전문가들의 의견을 종합하면 “현재 공개된 정보만으로는 증류 여부를 단정하기 어렵다”는 것이 공통된 견해다.

일부 연구자는 설령 증류가 일부 활용됐더라도 키미 K3의 성능을 그것만으로 설명하는 것은 무리라고 지적한다. 강화학습, 모델 구조, 데이터, 학습 규모, 엔지니어링 등 여러 요소가 함께 작동한 결과라는 것이다.

불과 몇 년 전만 해도 증류 자체를 문제 삼는 분위기는 아니었다. 하지만 지금은 상황이 달라졌다. AI 산업의 가치가 바뀌면서 오픈 AI와 앤트로픽, 구글의 프론티어 모델은 이제 수조원이 투입되는 기업의 핵심 자산이자 국가 경쟁력으로 인식된다. 이런 상황에서 경쟁 모델의 출력을 대규모로 학습에 활용하는 행위는 더 이상 단순한 최적화 기법이 아니라 핵심 지식재산을 활용하는 문제로 해석되기 시작했다.

하지만 정작 이를 판단할 명확한 기준은 아직 없다. 모델의 출력이 저작권 보호 대상인지, API를 통해 얻은 응답으로 다른 모델을 학습하는 것이 어디까지 합법이고 어디서부터 무단활용인지에 대해서는 국제적으로도 뚜렷한 컨센서스가 형성되지 않았다. 기술은 빠르게 발전했지만, 법과 제도는 아직 그 속도를 따라가지 못하고 있다 .

🧠 생각 정리

이 뉴스를 접하기 전까지는 distillation을 효과적인 인공지능 기술로만 생각해왔다. 인공지능의 발전 속도를 사회적인 법과 제도가 따라오지 못한다는 생각은 항상 해왔지만, “인공지능의 사용” 측면에서만 느껴왔지 이런 기술적인 측면에서는 체감을 못했었던 것 같다. 이 뉴스를 보니 이 “distillation”이라는 기술을 어떻게 바라봐야하는가를 비롯하여, 다양한 인공지능 기법들에 대한 새로운 시선을 가질 수 있게 된 것 같다. 이 뉴스에서도 말한것처럼 AI의 산업의 가치가 바뀌면서 기술에 대해서도 다양한 방향에서 바라보고 생각할 수 있는 능력이 필요할 것 같다.

인공지능은 특히 “지적재산권”을 어떻게 봐야할지가 너무 어려운 문제인 것 같다. 어느 정도는 합법으로 하고, 어느 정도는 불법으로 할 것인가 .. 그리고 하나의 방법만 사용하지는 않았을 텐데 구분은 어떻게할 것인가 .. 공정하고 안전하게 AI를 사용하기 위해 하루빨리 국제적인 기준들이 생기면 좋겠다.