조금 늦은 2024년 회고
연말 마무리, 언론취재, 그리고 Skilled Worker Visa 전환문제 때문에 정신없어서 글을 쓰지 못했습니다. 결국 비자 스폰서는 받았습니다.
산업계에 대한 생각
제가 요즘 산업계에 대해서 느끼는 점들이 빅테크 위주로 재편되면서 개인 회사에서 할 수 있는 자유도는 비교적 축소된다는 거 같습니다. 사실 LLM을 개발한다는 건 내가 OpenAI 나 구글, 클로드 등과 정면 승부하겠다는 소리고, 트레이닝이나 데이터셋 수집에 필요한 리소스 양도 장난없어서 차라리 OpenAI 나 클로드 API를 유료로 결제해서 쓰는게 싸고 좋게 먹힐 가능성이 큽니다. 특히 영어처럼 대중화 되어있는 경우는요.
컨설턴트로 일하시는 박사분 한분 아는데 그분 역시 허깅페이스에서 LLM 하나 가져다가 Off the shelf 로 쓰면서 파인튜닝 하라 하시더라고요.
그런데 저희 회사같은경우는 VocTech (Vocational Education + Tech : 직업교육 + 테크) 이다 보니 파인튜닝해서 세부적인 니즈를 반영할 수 있다는게 위안같습니다.
개인적인 측면에서 KPT를 한다면
Keep:
1. 운동은 정말 열심히 했습니다. 사실 잦은 초과근무나 비자스트레스, 그리고 약간의 몸살 병치례로 못 간 날들이 있긴 하지만, 2024년에 가장 꾸준히 한 게 운동 아니었나 싶을 정도였습니다.
2. 학계에서 비즈니스로 마인드셋을 잘 바꿔나가는 거 같습니다. 무작정 최신기술 어쩌구 하기보다는 먼저 '돈이 되나' 어떻게 구현할까' 하는 이론보다는 현실과 아키텍쳐를 (이론적인 모델들은 다 GPT와 허깅페이스가 제공합니다) 위주로 생각하는 사고의 전환이 잘 되는 거 같습니다.
Problem :
1. 자주 distraction 을 당한거 같습니다. 학창 때부터 '공부의 적'이 많았는데, 적들이 죽기는 커녕 증식하네요.
2. 네트워킹 등에 소홀했습니다. 좀 더 신경 쓰고 찾아보면 분명 기회도 많고, 또 옆동네 에든버러에서 기차 40분이면 Data Lab 행사 자주 열리는데, 행사 많이 못갔습니다.
3. 블로깅도 생각만큼 꾸준하지는 않았습니다.
Try :
1. 통계학, NLP 등 기본기를 좀 더 다시 복습해보고 싶습니다.
2. Kaggle 이나 오픈소스에 참여해보기. 맨날 말만 하고 안하고... '적'들이 많다보니..ㅎㅎ