클로드 2.1의 향상된 기능 7가지와 활용사례

지난 일주일 동안 오픈AI OpenAI에 많은 변화가 있었습니다. 창업자 앨트먼 Sam Altman을 이사회 의결로 CEO 해고라는 큼직한 사건이 있었습니다. 이후 불과 어제까지 MS로 입사, 다시 OpenAI직원들의 복귀 항의, 그리고 오늘은 앨트먼의 CEO로 재복귀

여러분들도 이미 뉴스와 소식을 통해 잘 알고 있으리라 봅니다. 이런 사건 때문이었을까요? 어제부터 Chat-GPT 기능이 불안하고 에러가 난다는 뉴스도 흘러 나오고 있습니다.

이러는 사이 경쟁자들은 계속해서 칼을 갈며, AI 챗봇 엔진이라는 거대한 전투장에서 그 화력을 더해가고 있습니다. 우선 알려드린대로 구글의 차세대 인공지능 AI 제미니 Gemini는 WideAIGPT.com 에서 다룬대로 (유일하게 내년초 출시라고 저만 주장했었습니다) 내년 출시를 맞추어 기능 향상에 사력을 다하고 있습니다.

클로드는 얼마전 2.0을 출시 했는데

오늘 다시 2.1로 업그레이드를 했습니다!!

이러한 인공지능을 향한 경쟁에서 모든 개발사들은 하루하루를 달리고 있습니다.

과연 클로드 Claude AI 2.1은 무엇이 얼마나 달라지는것일까요?

클로드 2.1의 향상 핵심

클로드 AI가 새로운 변화를 계속 이어가고 있습니다. 지금까지 Claude의 컨텍스트 창(대화 기록의 양)은 약 100,000개의 토큰으로 제한되었습니다. Claude 2.1에서는 토큰이 200,000개로 확장됩니다. 2배로 확장되는것입니다.

왜 중요한가?

더 큰 컨텍스트 창을 사용하면 Claude AI가 컨텍스트를 추적하거나 세부정보를 삭제하지 않고도 몇 시간 동안 긴 대화를 따라갈 수 있습니다. 사용하여 본 분들은 알겠지만, 이전에 주고받은 대화와 응답에 대한 것에 기반하여 답변을 하는것은 AI엔진 자체가 광범위한 이해를 할수 있다는것이며 그만큼 능력이 뛰어나다는 것입니다.

마치 고교생과 선생님의 답변이 차이가 있다는 것으로 유추 할수 있습니다. 광범위한 주제와 참고 자료를 다루어 답변을 해주는 셈이지요.  이뿐만이 아닙니다.

이러한 컨텍스트 확장은 Claude 스스로가 훨씬 더 정교한 추론, 논쟁 및 비교, 그리고 지난 주고받은 내용을 다시 반추해서 설명을 가능하게 합니다.

작업할 수 있는 컨텍스트가 더 많아지면 Claude는 세부 사항을 잊어버리거나 주제를 바꾸지 않고 자세히 설명할 수 있습니다.

사실 AI 챗봇에서 사용자가 느끼는 이질감은 상당히 좋은 대화를 이어나가면서 몰두 하는 도중, 잠시 20-30분 정도 전화 통화를 하고 돌아와 이어서 질문을 이어나가다 보면, 전혀 생뚱맞고 엉뚱한 답변, 즉 마치 새로운 대화나 다른 사람과 대화를 다시 시작하는것처럼 맥을 벗어나는 경우를 종종 경험한다고 합니다.

이러면, 사용자의 의지나 신뢰감이 떨어지고 다른 AI 챗봇은 어떨까? 하면서 사용자 이탈이 생기게 되버리고 맙니다.

그래서 인공지능 AI챗봇에서는 가장 중요한 요소가 바로 유지력입니다.  컨텍스트의 이해라고도 말하기도 합니다.

이번 클로드 AI의 확장처럼 큰 컨텍스트 창은 보다 일관된 답변의 깊이, 사용자 선호도 및 방향성 파악에 의한 답변, 그리고 신뢰감에 의한 대화가 가능하게 합니다.

충분한 맥락에 대한 이해를 AI 챗봇이 수행하지 못한다면 일반 인간 사용자는 지능적이지 않다고 판단내리면 사용을 유보한다는 답변이 해외 사용자들의 대다수였다고 합니다.

Anthropic의 혁신 방식은?

이번 확장에 대하여 클로드의 자화자찬을 잠시 언급해 봅니다.

Claude의 컨텍스트 창을 100,000개에서 200,000개 토큰으로 2배 확장하는 것은 엔지니어링 관점에서 볼 때 결코 쉬운 일이 아니었다고 발표하고 있습니다.

그냥 간단히 수행 프로세스 및 메모리 용량만 덧붙이면 되는 것이 아닌가? 이렇게 볼 수도 있지만, 실제에서 AI는 그렇게 단순 확장이 아닙니다. 두뇌를 두개 가져다가 놓아도 복잡한 알고리즘을 논리적으로 이해하는것은 물리적 확장으로 되지 않습니다. 그렇다면 그것은 인공지능이 아닐지도 모르지요.

컨텍스트 확장은 딥 러닝 아키텍처, 데이터 처리 및 추론 편집에 새로운 혁신이 필요했습니다.

딥 러닝 측면에서 Claude 2.1은 GPT-3과 같은 이전 Transformer 아키텍처보다 긴 시퀀스를 더 효율적으로 처리할 수 있는 수정된 Evolved Transformer 아키텍처를 사용합니다. Dense Passage Retrieval과 같은 데이터 전처리 기술도 활용되어 관련 컨텍스트를 신속하게 식별합니다.

무슨 이야기인가 할지도 모르는분들에게 간단히 정리합니다.

변환 기술 및 데이터 처리 기술에서 새로운 로직과 개념을 심어 넣은것입니다.

또한 Anthropic은 경험적 방법과 사전 계산을 통해 추론 컴파일을 최적화하는 방법을 개발했습니다. 이를 통해 지연을 유발하지 않고 실시간 대화에서 이러한 대규모 컨텍스트 창을 활용할 수 있습니다.

이를 통해 더 긴 맥락에서 환각이나 반복과 같은 문제를 방지할 수 있습니다.

이러한 모든 기술 혁신을 결합함으로써 Anthropic의 엔지니어링 팀은 Claude의 컨텍스트 창을 늘릴 뿐만 아니라 실시간 사용에 맞게 성능을 최적화할 수 있었다고 합니다.

Claude 2.1의 변경 및 개선 사항

다음은 이번 버전 2.1의 개선사항을 간단히 정리해 봅니다. 사용자 입장에서 어떤 문제를 입력하면 좋을 지 한번 다시 정리해 보는 차원입니다.

• 안전성 향상을 통한 유해한 답변 가능성 및 발생을 15% 감소
• 더 빠른 대화를 위한 최적화된 응답 시간
• 더 많은 매개변수 수로 인해 문제 인식 분류 성능 향상
• 대화 주제의 범위 확장
• 복잡한 문제를 더욱 간략화 하는 논리적 향상성
• 사용자의 사용의도 및 질문에 대한 관점, 성격, 선호도의 일관성 향상
• 더욱 풍부한 스토리텔링, 시나리오 탐색 및 가설

Claude 2.1을 활용한 사례

매우 향상된것은 사실인것 같습니다. 그렇다면 이런 향상된 기능을 통해 특히, 어떤 활용이 가능할까요? 아래와 같은 기능들이 가능하고 이렇게 사용하면 좋습니다.

장문 글쓰기 도우미

소설 작가, 언론인, 학자 및 기타 작가는 일관된 논조 및 내용, 문체의 스타일 및 주제가 필요한 긴 작품에 대한 대화 보조 도구로 클로드를 활용할 수 있습니다. Claude는 전체 책이나 논문에 걸쳐 복잡한 스토리라인, 실제 사건의 타임라인, 일련의 논리나 증거 등을 추적할 수 있습니다.

법률 보조

오랜 사건 기록, 법적 절차, 재판 계정 및 복잡한 계약 세부 사항에 따라 이제 Claude의 도움이 가능합니다.  법조계 관계자, 회사의 법무팀, 지적재산권 관리 및 특허, 이외 법률 및 회사 및 계약서 관련, 내규 및 규정 관계 관련자들은 판례법 읽기, 판례 확인, 증인 진술의 신뢰성 평가 업무를 Claude에게 맡길 수 있습니다.

의료 보조

환자 건강 관리 관련 질문에는 병력, 이전 치료, 만성 질환 문제 등을 이해해야 하는 경우가 많습니다. 수백 개의 메시지를 세부적으로 미리 기억하는 Claude 2.1의 능력은 문제 진단, 약물의 치료 제안 및 전체적인 치료 조언을 제공하는 데 도움이 될 수 있습니다.

고객 지원 아바타

기술 지원, 판매, 고객센터, 불만 처리 상담, 기타 고객 대면 상황에서 과거 상호 작용의 맥락을 유지하면 관계가 구축되고 문제가 효율적으로 해결됩니다. Claude 2.1은 일관된 논조로 24시간 고객 응대가 가능해지며 고객 프로필을 영구적으로 기억하여 일관되고 불만이 없는 사항을 자세히 관찰하고 응대 가능해 집니다.

자, 그러나 이것은 정말 일부분의 나열입니다.  정말로 지금 특징을 살펴보고  그리고 사례를 찾아서 본 단지 몇 가지 가능성일 뿐입니다.

창의적 접근은 사용자가 얼마나 열의를 가지고 인공지능을 활용하려는 의지에서 시작되리라 봅니다.