포스트

[AI 말평 대회] 참여기 #13: 예선 후기 - 턱걸이지만 본선 진출!

[AI 말평 대회] 참여기 #13: 예선 후기 - 턱걸이지만 본선 진출!

13. 예선 후기 - 턱걸이지만 본선 진출!

지금까지는 우리 팀이 구현한 RAG, GRPO 기반 학습 파이프라인을 차례로 정리해왔다.
이번 글에서는 드디어 대회 예선 결과소감을 공유한다.


1) 예선 결과

최종 제출 성적은 아래와 같다.

예선 리더보드

  • 팀 최종 점수: 64.12
  • 최종 순위: 10위
  • 결과: 예선 통과

예선 동안 고생하신 팀장님과 다른 팀원분들에게 정말 큰 감사를 전하고 싶다.

이번 대회를 진행하면서 정말 많은 걸 배울수 있었던 것 같다.


2) 예선까지의 여정과 기억에 남은점

자연어처리 오픈 튜토리얼부터 이번 AI 말평 경진대회까지 정말 많은 일이 있었다.

그 과정에서 기억에 남는 것들을 정리해보면 다음과 같다.

  • Local LLM Inference: 직접 연구실 서버에 연결해 로컬에서 LLM 추론을 돌려본 경험은 정말 큰 도움이 되었다.
  • Retriever: 전처리, dual-encoder, reranker등 다양한 개념을 학습하고 직접 구현해본 경험
  • Generator: GRPO로 fine-tuning, 포맷 준수율과 EM 개선에 집중
  • 메모리 관리: 24GB VRAM에서 양자화+LoRA로 끝까지 돌려낸 경험이 특히 값졌다
  • Team Work: 팀원들과 함께 프로젝트를 진행한 이 대회의 경험은 이후에도 큰 도움이 될것이다

3) 배운 점

  • 쿼리/콘텍스트 불균형이 큰 데이터셋에서 dual-encoder 학습이 쉽지 않다는 점을 실감했다. 관련 학습을 추가로 진행할 것이다.
  • RL 기반 학습은 reward 설계가 곧 성능으로 이어진다는 것을 체험했다. Format reward의 비중을 높게 주자 EM이 크게 증가한 것은 정말 흥미로운 경험이었다.
  • 학습에서 콜백·평가 자동화 파이프라인을 구축한 것을 통해 SW 개발에 있어 자동화의 중요성을 배우게 되었다.

4) 소감과 앞으로

예선을 간신히 통과했지만, “본선은 새로운 시작”이다.

본선 평가인 말평 아레나에서는 국어 전문가 분들이 직접 우리가 만든 모델을 평가한다고 한다.

본선에서 좋은 결과가 있을수도 있을 것이다.

좋은 결과를 기대하며, 본선 결과가 나오면 다시 소식을 전하겠다.

이번 경험은 나에게 정말 특별했다.

지금까지는 개인 프로젝트만 해왔지만, 이번에는 처음으로 대학 연구실에서 진행하는 팀 프로젝트에 참여했다.

그 과정에서 혼자서는 얻기 어려운 다양한 인사이트와 배움을 얻을 수 있었다.

대회에 참가하기 전과 후를 비교해보면, 스스로도 눈에 띄는 성장을 체감한다. 동시에 아직 부족한 점도 뼈저리게 느꼈다.

이번 경험을 발판 삼아, 앞으로도 계속 배우고 도전하며, 언젠가 진정한 NLP 전문가가 되는 날까지 멈추지 않고 노력할 것이다.

이 기사는 저작권자의 CC BY 4.0 라이센스를 따릅니다.