[우아한테크세미나] 생성AI로 똑똑하게 일하는 법

1. 특강 정보(8/28 저녁 6시)

1부 - 생성형 AI로 '우리'가 더 똑똑해지기(임동준 님, 30분)

- 생성형 AI로 ‘우리’가 더 똑똑해진다는 건
- 생성형 AI를 잘 쓰기 위한 과정에서 마주친 문제와 시도해 본 경험들
- 생성형 AI를 똑똑하게 쓰는 3개의 스텝

(생성 AI의 기능을 활용해 목적 달성을 위한 프로세스를 크게 3단계로 나눌 수 있는데 1단계는 단순 반복 작업을 빠르게 하는 것이고,  2단계는 기존 작업을 좀 더 효율적으로 하는 과정으로 현재 하던 일을 더 효율적으로 처리하는 단계로, 코파일럿을 이용해 기존 업무의 작업 시간을 단축시키는 과정을 포함한다. 3단계는 각자의 전문성을 한 단계 더 향상하고업무 역량을 강화하는 과정이다.)
- AI 교육 설계에 적용해 본 프롬프트 사례 공유
- 앞으로 생성형 AI로 시도해보고 싶은 도전들

2부 - 로컬 LLM과 함께 일해보기(송요창 님, 30분) 
- 왜 로컬LLM인가? 
- 사례로 살펴보는 로컬 LLM 활용
  *사례 1 - API 문서 응답을 TypeScript Interface로 변환하기

 

 

https://www.youtube.com/live/v2icwh-nyl4

 

2. 특강 후기

 

이번 특강에서는 생성형 AI와 로컬 LLM의 활용에 대한 단순한 기술 설명이 아니라, 실제 업무와 협업에서 어떻게 더 큰 가치를 창출할 수 있는지를 예시와 함께 보여주었다.

생성 AI를 활용하여 필요한 정보를 정확히 얻기 위해 전략적인 접근을 해야 한다는 사실을 깨달았다. 

예를 들어, GPT에게 역으로 질문함으로써  GPT가 원하는 정보를 요청하는 방법과 같이 (GPT는 그냥 대답만 하고 질문을 안 함=> 필요한 정보가 뭔지 모름) 다양한 프롬프팅 접근법을 통해 답변의 질을 높일 수 있다는 걸 알게 되었다.

로컬 LLM의 고려 사항으로 기밀 유출의 위험을 낮출 수 있다는 점이 매력적이었다.

이 부분을 들으면서 실제로 예전에 GPT를 이용하여 회사 업무용 코드를 실제로 올리는 사례가 발생하여 기업 정보 유출의 위험성이 있다는 뉴스를 접했던 기억이 떠올랐다. 로컬 LLM 같은 경우 와이파이가 꺼져도 로컬 환경에서 작동하기 때문에 정보유출에 대한 보안성이 높다. 또한, 최근 컴퓨팅 파워도 크게 향상되어, 기존의 M1 맥스와 같은 장비로도 충분히 성능을 발휘할 수 있다는 장점이 존재한다.

그다음으로 로컬 LLM을 코드리뷰에도 사용할 수 있다는 예시가 가장 인상 깊었다.

코드 품질 유지를 위해 코드 리뷰는 필수적으로 진행되어야 한다. 하지만 코드리뷰는 종종 병목 현상을 초래하여 기능 출시 속도를 저하시키기도 한다. 코드리뷰는 다른 사람이 코드를 읽어야 되므로 읽을 때까지 기다려야 되고 사람이 읽을 수 있는 집중력에 한계가 발생하기 때문이다. 로컬 LLM은 코드리뷰에서 동료가 바뀐 부분에 대한 코드를 이해하는데 큰 도움이 된다고 한다. 예를 들어, 코드 리뷰를 통해 팀원이 작업한 내용의 변경점을 요약해 주며, 이는 코드를 이해하는 데 편리하다. 총평이 포함되어 유지보수가 어려운 코드에 대해서는 개선 아이디어를 제공하는 등의 긍정적인 결과를 낼 수 있다. (하지만 코드 변경점이 많을 경우, 리뷰에 한계가 생길 수 있으므로, 팀 내에서의 리뷰 진행을 꼭 해야 한다.) 이를 통하여 동료들이 코드리뷰에 대한 부담감 더 줄어줄 수 있다는 장점이 존재한다.

로컬에서 LLM에게 코드  차이점과 설명을 확인하고 문제점을 요청하여 리뷰를 진행하는 접근법을 추천한다고 한다.(프로젝트를 진행하면서 나중에 이러한 접근방법은 꼭 사용해 보면 유용할 것 같다.)

강의에서는 결론적으로 로컬 LLM은 귀찮은 일을 할 때 매우 좋지만 아직까지도 인간은 여전히 뛰어나다는 것이다.

이는 AI에 너무 의지하거나 너무 맹신해서는 안된다는 경각심을 일깨워주지만, AI의 기능을 활용하면 업무 효율성을 효과적으로 높일 수 있다. 전체적으로 이번특강을 통하여 이런 생성형 AI는 협력해야 하는 도구이지 배척은 하면 안 된다는 생각을 하였다.

3. 추가

배민쿠폰

 

세미나에 적극적으로 참여하고 질문하면 소수의 사람들에게 배달의민족 쿠폰도 준다!

정보도 얻고 쿠폰도 얻고 좋은 특강이었다! ㅎㅎ