대학원생의 그저 그런 기록

안녕하세요, 25년 7월 12부로 투빅스 22기를 수료하게 되면서 수료후기를 적어보려고 합니다. 차후에 투빅스에 지원하실 분들에게 도움이 되었으면 하는 마음입니다. 투빅스를 접하고 시작하게 된 계기투빅스에 대해 알게 된 것은 바야흐로 2024년 3~4월쯤이었다. 당시에 연구실에서 항상 혼자 AI & NLP에 대해 혼자 공부하면서 많이 지칠 때쯤이었다. 주변에 AI를 아는 사람은 연구실 사람들뿐이었고 AI 관련해서 다양한 인맥을 쌓고 싶어서 여러 AI & 데이터 분석 관련 동아리를 찾아봤다. 하지만, 이미 지원기간은 지난 시점이었다. 보통 이와 관련 동아리를 종강 직후에 동아리를 모집하기 때문이다. 그래서 어쩔 수 없이 동아리를 하지 못했다. 이후에 연구실 사람들에게 동아리 관련해서 혹시 알고 있는 ..

연구를 하다가 데이터 불균형에 적용할 수 있는 방법들을 고민해보았다. 그러다 Focal Loss 방법을 알게되었으며, Focal Loss는 이미지 데이터를 기반으로 하는 것이기에 난 텍스트 데이터를 다루고 있어 주제가 조금 다를 수 있지만, 그래도 적용하는데에 큰 문제는 없기에 써보았다. 그러면서 어떤 효과가 있는지 등을 알고 싶었고 이에 대해 좀 작성해보려고 한다. 참고 논문https://arxiv.org/abs/1708.02002 Focal Loss란 무엇인가?Focal loss는 RetinaNet 논문에서 제안된 손실 함수로, Object Detection Model에서 발생하는 극심한 클래스 불균형(쉽게 맞히는 것 vs 쉽게 맞히지 못하는 소수 객체) 관련해 Easy negative가 전체 손실을..

PyTorch Lightning의 Trainer 클래스이번에는 파이토치 라이트닝에서 사용하는 Trainer 클래스에 대해 알아보려고 한다. 파이토치 라이트닝(Pytorch Lightning)의 Trainer는 딥러닝 모델 학습의 복잡한 과정을 간결하게 만들어 주는 핵심 클래스다. 이전 PyTorch는 모델을 학습할 때 데이터 준비, 모델 정의 및 여러가지 하이퍼 파라미터(optimizer, loop, check point 설정 등 여러가지)를 직접 설계해서 코딩을 해야했지만, Pytorch Lightning에서는 이러한 코드를 자동으로 처리해주기 때문에, 사용자는 모델의 구조와 데이터 처리 등 핵심적인 부분만 처리하면 된다. (생각보다 다른 것들을 신경쓰는데 오래걸렸는데 이 라이브러리를 통해 시간을 정말..

안녕하세요. 이번 글은 Dacon에서 대회를 운영하고 성균관대 지능형멀티미디어연구센터 및 딥페이크 연구소에서 주관한 2025 Bias-A-Thon : Bias 대응 챌린지에 대한 참가 및 특별상 수상 후기에 대해 적어보려고 합니다. 결론적으로 말하면 대회에서는 246명 중 리더보드에서 9위를 기록하였고 등수에 따라 특별상을 수상하였습니다. 이전까지 대회는 모두 제출만 해보고 말았었는데 이번에는 저의 연구와 도메인이 제대로 맞는 대회였습니다. 제가 현재 공부하고 있는 분야가 LLM(Large Language Model)이며 특히 그 중에도 프롬프트와 관련된 공부를 진행하고 있습니다. 그래서 참여를 하게 되었고 수상에 욕심이 있었습니다. 이와 관련하여 수상을 할 수 있었고 수상을 하게 된 과정을 설명해보려고..

날씨가 점점 추워지면서 인공지능·빅데이터 동아리 면접 시즌이 다가오고 있습니다. 저 역시 2024년 6월 초, 빅데이터 동아리 면접을 준비하며 경험했던 내용을 바탕으로 투빅스(Tobigs) 동아리 면접 후기를 공유합니다. 이 글을 통해 투빅스 지원을 고민하는 분들께 실질적인 도움이 되길 바란다.투빅스 동아리란?최초의 인공지능 및 빅데이터 동아리: 2013년에 시작해 2014년 1기 동아리원의 1회 컨퍼런스를 시작으로 지금까지 꾸준히 활동 중인, 국내에서 가장 오래된 AI·빅데이터 동아리다. 특히 다른 동아리에 비해 여러 장점이 있어서 지원을 했던 것 같다.투명한 멤버 공개홈페이지에서 멤버들의 간단한 정보와 학력, 프로젝트 결과물을 확인할 수 있어 동아리의 수준과 아웃풋을 직접 확인할 수 있다. 특히 타 ..