AI 발전이 더뎌지고 있다구요?

해당 기사 원문은 맨 아래의 링크를 통해 확인하실 수 있습니다.

 

요약

AI 업계는 성능 정체와 데이터 부족, 비용 증가로 성장이 한계에 부딪히는 중입니다. 오픈AI, 구글, 앤트로픽 같은 기업들은 모델 크기 확대 대신 새로운 접근법을 모색하고 있습니다.

1. 데이터 부족: 인간 작성 데이터는 부족하고 비용이 높음.
2. 비용 문제: 성능 개선 대비 개발 비용이 급증.
3. 새로운 전략: 후처리 최적화, 합성 데이터 사용, 에이전트 개발 등.
4. 확장 법칙 의문: 큰 모델과 더 많은 데이터가 반드시 성능 향상을 보장하지 않음.
5. 미래 전망: 실용성 중심의 AI 사용 사례로 전환 예상.

 

 

 

의견

 와, 진짜 이제 AI도 한계가 보이는 걸까요? 🤔 그동안 GPT-4, Claude 이런 모델 나올 때마다 “와, 이게 끝판왕이다!”라고 했던 저희들, 조금 과장된 기대를 했던 건지도 모르겠어요. 그런데 이젠 '기대만큼 성능이 안 나온다'는 얘기가 여기저기서 들리죠.

 

오픈AI가 만든 Orion 모델(2024년 말에는 확실히 나올 것으로 보여요)은 제대로 된 코딩 답변도 못 하고, 구글의 Gemini는 출시만 하면 천하통일 할 줄 알았는데 내부에서도 실망했다는 얘기가 돌고요. 앤트로픽의 Claude 3.5 Opus? 일정 계속 미뤄지고 있답니다. 😅

 

그럼 문제는 뭐냐? 바로 데이터 부족이에요.

 사람이 직접 쓴 고품질 데이터를 가져오는 게 진짜 힘들대요. 심지어 데이터를 갖고 있다고 해도, 이걸 모델 훈련에 넣으려면 레이블링(이 데이터를 ‘분류’해주는 작업)을 또 해야 하는데, 이게 돈이 엄~청 든다는 거죠. 수백억에서 수천억이 그냥 날아가는 느낌? 😮‍💨

 

게다가 성능도 딱히 더 나아지지 않는다는 거! 그러니까 이제 AI 업계도 이런 고민을 한다는 거예요:

• “아, 이 돈 들여서 이거 하는 게 맞나?”
• “큰 모델 더 만들면 뭐해, 효과도 없는데.”

 

 

그래서 나온 새로운 전략들이 몇 가지 있어요:

1. 합성 데이터: 사람이 아니라 AI가 만든 데이터를 다시 AI에 먹이는 방식인데, 문제는 질이 떨어진다는 것.
2. 후처리 최적화: 모델 훈련 다 끝내고도 계속 업데이트하는 거. 즉, 우리 쓰는 동안 나아지는 거죠.
3. AI 에이전트 개발: 모델을 더 키우는 게 아니라 실용적인 ‘도구’로 전환! 예를 들어, 이메일 써주기, 일정 예약하기 같은 거요.

 

오픈AI CEO인 샘 알트만은 Reddit AMA에서 “다음 빅 이벤트는 에이전트가 될 겁니다”라고 했대요. 뭐, 믿고 보자구요. 🙃

그런데 여기서 또 나오는 논쟁이 하나 있어요. AI 업계는 지금까지 확장 법칙(scaling laws)이라는 걸 맹신했어요. “모델 크기를 키우면, 데이터 많이 먹이면, 성능 좋아진다”는 공식이죠. 근데 요즘 나오는 결과들을 보면 이 법칙도 의심받고 있어요. 그러니 기업들이 이제 방향을 좀 바꾸려는 거겠죠.

 

 그럼에도 낙관론자도 많습니다. 앤트로픽 CEO 다리오 아모데이는 “걱정하지 마세요. 방법 찾을 겁니다”라며 여전히 확장 법칙을 믿는다고 했고요. 심지어 “2-3년 안에 초지능(superintelligence) 가능하다”고 했다네요. 듣기만 해도 와~ 싶긴 한데, 저희가 그걸 믿기엔 아직은 좀 글쎄…

 

 마지막으로, 비용 문제도 심각해요. 모델 개발비가 너무 커서, 이젠 모든 기업들이 “효율성”을 최우선 과제로 삼고 있는 듯합니다. 예를 들어, 마이크로소프트는 2025년에 무한 컨텍스트 AI를 내놓을 거라고 했어요. AI가 기억력을 거의 인간처럼 갖게 된다? 상상만 해도 대박이죠.

 

 

 

 

결론

 저희가 지금 겪는 이 AI 정체 현상은 어쩌면 과도기적인 걸 수도 있어요. 기업들은 더 이상 “더 큰 모델, 더 많은 데이터”만 답이라고 생각하지 않는 것 같고요. 이제는 실제로 사람들이 필요로 하는, 실용적인 AI를 만드는 데 초점을 맞추려는 모습입니다.

 

 그래서 오히려 기대됩니다. AI 에이전트가 우리 삶에 얼마나 편리함을 가져다줄지, 그리고 언젠가 초지능 시대가 오면 우리가 그걸 어떻게 활용하게 될지요. ✨ AI가 똑똑해지는 속도는 잠깐 느려질 수 있어도, 멈추는 일은 없을 것 같아요. 😉

 

 

 

참고 기사 원문 주소

테크 크런치의 기사

https://techcrunch.com/2024/11/09/openai-reportedly-developing-new-strategies-to-deal-with-ai-improvement-slowdown/