IT, 자격증, 대외활동 블로그

1. 멀티 LLM

멀티LLM(Multi-LLM)은 여러 개의 대형 언어 모델(LLM, Large Language Model)을 함께 사용하거나 통합하여 특정 작업을 수행하는 접근 방식을 말합니다. 각각의 LLM은 서로 다른 강점과 약점을 가지고 있기 때문에, 여러 LLM을 조합함으로써 다양한 작업에 더 효과적으로 대응할 수 있습니다. 멀티LLM 시스템은 다음과 같은 상황에서 활용될 수 있습니다:

1. 다양한 언어 처리: 서로 다른 언어를 더 잘 처리하는 모델들을 결합해, 다국어 번역이나 언어 간 이해도를 높일 수 있습니다.
2. 특정 작업에 맞춘 전문화: 하나의 LLM이 텍스트 생성에 능숙하고, 다른 LLM이 코드 작성이나 데이터 분석에 특화되어 있을 경우, 이들을 함께 사용해 다양한 작업을 효과적으로 수행할 수 있습니다.
3. 협력과 상호 검토: 각기 다른 LLM이 서로의 결과를 검토하거나 보완하는 방식으로, 더 정확하고 신뢰할 수 있는 결과를 도출할 수 있습니다.

멀티LLM의 목표는 여러 모델의 시너지 효과를 활용해 단일 모델이 처리할 수 없는 복잡한 작업을 더 잘 수행하는 것입니다.

2. 에이닷의 멀티 LLM 에이전트로 나만의 Fit한 논문을 찾아주는 에이전트 만들기

# 위의 자료에서 사용한 프롬프트를 따로 아래에 적었습니다.

<Claude 3>

당신은 논문의 초록 부분만을 읽고 사용자에게 fit한 논문인지 확인하는 알고리즘입니다.

#출력형식
1. 초록을 한국어로 번역한 전문입니다.
[번역한 전문]

2. 해당 논문의 주요한 keyword 입니다.
[keyword]

3. 해당 keyword를 설명한 내용입니다.
[keyword : 설명]

4. 사용자가 원하는 논문인지 확인하였습니다.
[근거를 들어 판단]

#입력 내용
1. 저는 통신 네트워크와 관련된 논문을 찾고 있습니다. 해당 논문이 제가 찾는 논문인지 확인해주세요.
{논문 초록 전문}

<GPT-40>

당신은 피드백 알고리즘입니다. Claude 3가 작성한 내용에 대해 피드백을 제공해주세요. 특히, keyword에 대한 설명이 정확한지를 중점적으로 확인하고 설명이 부족하다면 설명을 추가해주세요.

#출력형식
1. Claude3가 작성한 내용에 대한 피드백을 제공합니다.
[keyword : 피드백의 근거]

2. 피드백을 바탕으로 keyword를 다시 설명합니다.
[keyword : 설명]

3. 사용자가 원하는 논문인지 다시한번 확인하였습니다.
[근거를 들어 판단]

<A.X>

당신은 내용을 정리하고 사용자와 대화하는 알고리즘입니다. 

#출력형식
1. Claude3가 작성한 내용과 GPT가 작성한 내용을 참고하여 최종적으로 정리합니다.
[정리 내용]

2. 해당 내용들을 학습하여 사용자와 대화합니다. 궁금한 점을 물어보세요.

저는 해당 프롬프트로 에이닷의 멀티 LLM 에이전트를 나만의 fit한 논문을 찾아주는 에이전트로 만들었습니다.

여러분도 해당 프롬프트와 내용들을 참고하여 나만의 에이전트를 만들어보는건 어떠신가요?

1. 에이닷의 멀티LLM 기능으로 자격증 시험 준비하기

오늘 저는 네트워크관리사 2급 실기를 치루고 돌아왔는데요.

제가 이번에 에이닷 얼리어답터로 선정이 되면서 에이닷의 멀티LLM 기능을 이용하여 네트워크관리사 2급 실기 문제 중에서 라우터 문제들을 공부했던 방식을 알려드릴까하여 이렇게 포스팅합니다.

멀티 LLM 기능 중에서 두 가지 LLM을 사용했습니다.

하나는 SKT에서 개발한  A.X LLM / 다른 하나는 LLM의 선두주자인 chatgpt 4를 사용하였습니다.

에이닷 멀티 LLM 기능의 장점은 한번에 다양한 LLM들의 대답을 들어볼 수 있다는 점이 정말 좋은 점인 것 같습니다.

이제 아래에 에이닷의 멀티 LLM 기능을 이용하여 네트워크관리사 실기 문제를 어떻게 공부했는지, 그리고 같은 프롬프트와 같은 문제를 입력한 두 LLM을 비교 분석해보는 포스팅을 해보겠습니다. 

2. 멀티 LLM 에이전트에 입력한 프롬프트

• 주의 사항에 네트워크 관리사 자격증 시험과 관련된 내용을 입력하지 않았을 때

당신은 네트워크 엔지니어 입니다. 사용자가 제시하는 네트워크관리사 2급 자격증 문제들의 답과 해설을 제시해주세요.

#출력 형식
다음 형식에 따라 제시해주세요:

1. [문제의 정답을 적어주세요.]
2. [정답의 해설을 적어주세요.]
3. [제시한 문제를 풀기 위해 꼭 알아야하는 개념을 적어주세요]
4. [문제를 풀기위한 당신의 tip을 적어주세요]

#주의사항
- 꼭 알아야하는 개념을 최소 1가지 이상 최대 3가지 이하로 적어주세요.
- 사용자가 제시하는 문제들 안의 단어는 전부 통신/네트워크와 관련된 단어들입니다.

위의 프롬프트를 입력한 뒤에 네트워크관리사 2급 실기 문제 중 한 문제를 입력 해보았습니다.

<ROUTER1의 Serial 2/0의 클럭속도를 72k로 설정하시오.>

• GPT 40

• A.X

-- 분석 --

1. 두 LLM 다 주의사항에 네트워크관리사 자격증 시험에서 사용하는 route 소프트웨어를 사용하라고 적지 않아서 Cisco Ios 기반으로 답을 주었습니다.

2. 두 LLM 다 정답을 맞추었지만, 네트워크관리사 자격증 시험이라는 점을 고려했을 때, A.X의 Tip이 더 현실적이고 좋았습니다.

• 주의 사항에 네트워크 관리사 자격증 시험과 관련된 내용을 입력 했을 때

당신은 네트워크 엔지니어 입니다. 사용자가 제시하는 네트워크관리사 2급 자격증 문제들의 답과 해설을 제시해주세요.

#출력 형식
다음 형식에 따라 제시해주세요:

1. [문제의 정답을 적어주세요.]
2. [정답의 해설을 적어주세요.]
3. [제시한 문제를 풀기 위해 꼭 알아야하는 개념을 적어주세요]
4. [문제를 풀기위한 당신의 tip을 적어주세요]

#주의사항
- 꼭 알아야하는 개념을 최소 1가지 이상 최대 3가지 이하로 적어주세요.
- 사용자가 제시하는 문제들 안의 단어는 전부 통신/네트워크와 관련된 단어들입니다.
- Router 설정 관련 문제들은 네트워크 관리사 자격증 시험에서 사용하는 router 소프트웨어를 기준으로 정답과 해설을 제공해야 합니다.

주의사항에 네트워크관리사 자격증 시험 관련된 내용을 추가한 프롬프트입니다.

<ROUTER1의 DHCP 네트워크를 192.168.100.0/24 서버이름은 icqa로 설정하시오.>

• A.X

• Chatgpt 40

-- 분석 --

1. A.X가 간단하고 정확하게 네트워크관리사 자격증 시험이라는 점을 고려해서 정답을 맞추었습니다. 

또한, 알아할 개념이나 해설은 자세히 설명해주지는 않았지만, 포인트를 정확히 짚어 주었습니다.

2. chatgpt 40는 네트워크관리사 자격증 시험이라는 점이 잘 고려가 되지 않은 것 같습니다.

문제에 제시된 내용만을 풀어야하는데 혼자서 너무 많이 나간 느낌입니다.

해설이나 알아야할 개념들을 자세히 풀어주고 설명해주었지만, 애초에 네트워크 관리사 자격증 시험에서 조금 벗어난 내용들이 많이 보여서 아쉬웠습니다.

3. 결론

이렇게 에이닷의 멀티 LLM 기능을 사용하여 네트워크 관리사 실기 라우터 문제들을 풀어보면서 어떤 LLM이 더 도움이 될지 비교분석해보았습니다.

-  A.X

공부할 시간이 부족하고 자격증 시험의 합격에 초점이 맞춰져 있는 분들께 추천드립니다.

-  chatgpt 40

공부할 시간이 어느정도 있고 네트워크에 대한 공부를 자세히 하고 싶으신 분들께 추천드립니다.

1. 에이닷이란?

에이닷은 SK텔레콤에서 만든 대화형 인공지능으로 다양한 기능들이 있습니다. 특히, 일정 관리, 날씨 정보, 음악검색, 뉴스 검색 등 다양한 기능들이 모여 나만의 비서로 사용 가능합니다.

2. 내가 생각하는 주요 기능

- 일정관리

에이닷은 대화형 인공지능이기에 대략적인 정보들만 말해도 일정을 알아서 기록해주고 알려줍니다.

또한 누군가와 통화를 하면 그 내용을 보고 일정을 기록해줍니다.

아래는 제가 실제 9월 9일 내일배움카드 관련된 통화를 한 내역을 보고 에이닷이 요약하여 직접 일정을 추가해준 모습입니다. 

정말 편리하지 않나요?

통화 내용을 잘 기억하지 못하는 분들에게 정말 도움이 될 만한 기능입니다.

- 통화요약

제게 있어서 이 통화요약은 정말 좋은 기능입니다.

지금 저는 학생회 일을 맡고 다양한 사람들과 여러 행사를 조율하는 입장에 있습니다.

여러 사람들과 통화를 하다보니, 내용이 잘 기억이 안나고 까먹기 일 수 였지만, 이제 통화요약만 보면 일정을 다시 리마인드 할 수 있어서 너무 좋았습니다.

통화를 많이 하시는 분들께 강추 ! 합니다.

- 증권 에이전트

주식에 관심있으신 분들이 쓰시면 좋은 에이전트 입니다.

AI로 주식을 추천받을 수 있으며 다양한 리포트까지 찾아줍니다.

3. 다른 대화형 AI와 비교

저는 정말 다양한 대화형 AI들을 사용해보았습니다.

- chatgpt 4o, 뤼튼, bing, 등

위에 적은 대화형 AI 들을 전부 사용해보았을 때 가장 유용했던 것은 chatgpt 4o 였습니다.

그래서 앞으로 할 포스팅에서는 에이닷과 chatgpt 4o를 비교하여 에이닷의 장단을 파악해보려고 합니다.

우선 이번 포스팅을 위해 에이닷의 기능들을 둘러보면서 chatgpt 4o와 대충 비교를 해보았을 때, 장단은 아래와 같습니다.

- 장점

1. 유용한 에이전트들이 미리 준비 되어있다.

: gpt 4o도 다양한 에이전트들이 있지만, 한국인 기준에서 간편하고 실생활에 적용될 만한 에이전트는 에이닷이 더 좋은 것 같습니다.

2. 통화요약과 요약한 내용을 일정관리에 추가해준다.

: 제가 알기로 gpt에는 해당 기능은 없는 것으로 알고 있습니다. 좋은 기능입니다 강추 !

- 단점

1. 장문의 내용을 적을 수 없다.

: 100자 제한이 걸려 있었고 100자 안에 적어도 gpt는 파악하는 내용을 에이닷은 파악하지 못했습니다. 이 점은 좀 아쉬운 점이라고 할 수 있겠습니다.

앞으로 에이닷을 사용해보면서 후기들을 작성할 예정이니 많은 관심 부탁드립니다 ! 감사합니다