AI.ing

[작성자:] fc_story

  • 1주 1장애 성장통을 이겨낸, 데이원컴퍼니 CTO가 말해주는 장애 대응이란?

    1주 1장애 성장통을 이겨낸, 데이원컴퍼니 CTO가 말해주는 장애 대응이란?

    AI.ing

    1주 1장애 성장통을 이겨낸,
    데이원컴퍼니 CTO가 말해주는 장애 대응이란?

    #장애대응

    #장애대응매뉴얼

    #장애대응프로세스

    1.장애 대응 뭣이 그렇게 중헌디? 

    개발자들은 듣기만 해도 ptsd 오고 스트레스 받는 장애 상황!

    고객의 신뢰성과 만족도에 직접적으로 영향을 미치는 장애, 장애 상황을 빠르게 파악하고 대응하는 것이 정말 정말 정말 중요해요.

    하지만, ‘장애는 겪어봐야 안다’는 말이 있듯, 겪기 전까지는 정보도 장애 대응 프로세스도 알기 어려운 슬픈 현실이죠. 대기업들의 장애 대응 프로세스나 문화에 대한 기술 블로그는 쉽게 찾을 수 있어도 스타트업부터 성장해 온 회사의 생생한 장애 상황과 장애 대응 매뉴얼에 대한 이야기는 보지 못하셨을 텐데요!

    그렇게 중요하다고 하는데, 정작 정보 얻기는 어려운 장애 대응! 그래서 야심 차게 준비해 봤어요.

     

    2.끊임없는 성장 속에서 피할 수 없었던 장애 상황! 데이원 컴퍼니 CTO는 어떻게?

     

    “4년간 회원 수 4배 상승, 전 년 대비 온라인 매출 약 3배 증가의 성장통을 겪어오신 
    데이원 컴퍼니의 CTO님께서 말씀해주시는 장애 대응이란”

     

    | CTO님 간단히 소개 부탁드립니다.
    안녕하세요! 저는 데이원 컴퍼니의 CTO를 맡고 있는 심승건이라고 합니다.  패스트 캠퍼스 개발팀장에서 시작해 CTO가 된지는 약 1년 정도가 됐습니다. 

     

    | 정말 많은 장애 상황을 겪어보셨을 텐데, 정말 아찔했던 경험?
    저도 신입이나 주니어 연차에는 심장이 빨리 뛰거나 엄청 당황했었죠. 지금은 문제 해결에 초점을 맞춰서 오히려 더 침착하게 대응하고 있어요. 이 직업을 가진 이상 장애 상황은 피해 갈 수 없고, 문제 해결보다 감정을 해결하는 게 우선이 되면 안된다는 생각을 항상 가지고 있습니다.

    그래서 아찔했던 경험보다 큰 규모의 장애 상황을 말해보자면, 현재 회사가 4개의 CIC 구조로 하나의 데이터베이스를 사용하고 있습니다. 상세페이지 하나만 오류가 나거나 했으면 그래도 괜찮았을 텐데, 데이터베이스 오류라 전체 CIC 페이지에 영향을 미쳤던 적이 있어요. 

    MySQL에서 PK 프라이머리키가 설정이 안되면 오류가 나는 버그가 있어서, 데이터베이스를 내렸다가 올렸었습니다. 이 과정에서 모든 인스턴스를 주입해서 해결해야 했기 때문에 번거로움을 겪었었죠. 전사적으로 영향을 미치는 장애 상황이기 때문에 상당히 큰 규모의 장애 상황이었습니다.

     

    |  회사가 성장하면서 장애 대응에 있어서 달라진 점은?

    오히려 과거 장애 대응은 훨씬 간편하고 쉬웠죠. 서버들이 하나의 인스턴스에 존재하던 상황이라 터미널에서 몇 번만 작업하면 장애가 해결되는 손 쉽게 해결할 수 있는 상황이었습니다. 

    하지만 사용량 증가, 쿠버네티스 도입 등 스케일러블하게 인프라가 구축된 상황이라서 장애 원인 파악과 복구 과정이 복잡해졌다고 할 수 있죠. 고도화된 인프라와 배포 체계를 갖추게 되면서 물론 안정화 측면에서는 향상되었지만 장애 원인을 파악하고 대응하는데 속도가 더 느려진 부분은 있습니다.

     

    |  실무에서 자주 겪는 장애 상황은?

    수요 예측 실패로 인한 장애 상황이 흔하지 않을까 싶어요. 마케팅 이벤트나 갑자기 바이럴 효과 때문에 트래픽이 급증할 때 기존 서버로 감당이 안 될 때가 있죠. 

    저희도 페이지에 들어오면 30원을 지급하는 이벤트를 진행한 적이 있는데 그 때 실시간 검색어, 바이럴 되면서 트래픽이 100배 이상 뛰었던 적이 있어요. 기존에는 서버 두 대로도 충분했는데 그 때는 200대 띄워도 겨우 버틸 정도로 트래픽이 급증했었죠.

     

    |  그렇다면 수요 예측은 어떻게?

    조금 당황스럽게 들리실 수도 있지만 ‘당해보면 알 수 있습니다’. 사실 아무리 예측한다고 해도 변수들이 많기 때문에 예측이 어려운 것도 있죠. 그래서 한 번 당해보고 그 경험을 토대로 변수들을 최대한 줄여가고 있다고 생각해 주시면 될 것 같아요.

    또 다른 방안으로는 STATIC 웹 페이지를 별도로 만들어서 모든 트래픽을 몰아 줄 수는 있죠. 다만, 별도로 페이지를 안 만드는 이유는 고객이 저희 서버에 들어와서 무언가 행동을 하는 게 모두 데이터베이스에 남기 때문에 최대한 저희 페이지로 들어오게끔 하고 있습니다.

    *정적 웹 페이지 (Static Web Page):  웹 서버에 이미 저장된 파일(HTML 파일, 이미지, JavaScript 파일 등)을 클라이언트에게 전송하는 웹 페이지

     

    |  장애 대응에 있어 자주 사용하는 방법&전략은?

    아주 기본적인 방법인 롤백 전략을 많이 쓰는 거 같습니다. 문제가 생기면 바로 롤백하고 있어요. 인프라를 쉽게 배포하고 다시 내릴 수 있기 때문에 자주 활용하고 있죠. 또 스테이징 환경이라고 실 서버와 비슷하게 만들어놓은 환경에서 운영 환경으로 이전하기 전에 검증을 진행하고 있습니다.

     

    |  경험에서 나오는 찐 노하우! 장애 대응에서 가장 중요한 Point는?

    우선 멘탈케어가 중요하다는 말을 하고 싶어요. 처음 장애를 겪으면 누구나 당연히 힘들고 괴로워요. 근데 또 한두 번 겪다 보면 괜찮아져요. 다 사람이 하는 일이니깐, 어차피 엔지니어들은 장애 상황을 피할 수 없기 때문에 두려움을 이겨내는 과정이 중요한 것 같아요.

    그리고 경험이 쌓이면 적절한 타이밍에서의 판단이 중요해지죠. 장애가 발생했을 때 어디서부터 봐야 할 지에 대한 인지가 생기겠죠? 그러면 이제 트래픽 문제인지 코드 문제인지를 파악하고 오래 걸릴 것 같으면 롤백부터 진행할 필요가 있어요. 시간이 소요되면 고통받는 사용자들이 늘어나고 또 회사는 그 시간만큼 돈을 못 버니깐 빠르게 판단하고, 서비스 완전 정상화는 어렵더라도 굴러가게 끔까지는 해야 하는 상황 판단이 굉장히 중요합니다.

     

    |  데이원컴퍼니에서 장애 대응에서의 목표는?

    사실 장애 상황 피해 갈 수는 없거든요. 그래서 장애를 발생시킨 누군가를 탓하는 것보단 문제 해결에 초점을 맞춰서 장애를 해결한 사람이 박수를 받는 문화를 만들고 싶어요. 사람은 누구나 실수를 할 수 있고, 또 일하다보면 생길 수 있는 일이기 때문에 그걸 같이 해결해가려는 문화를 조성하고 있고 또 유지해가려고 합니다.

     

     

     

    3.이런 귀한 인터뷰 아니면 얻기 어려운 장애 대응 매뉴얼&정보!

     

    강의 만들 때 정보 얻기도 강사님 구하기도 정말 어려웠어요, 그래서 장담할 수 있습니다!

    ▶ ONLY 이 강의에서만◀ 어디에서도 볼 수 없었던 장애 대응 프로세스 모든 것을 담았어요.

     

    실제 빈번하게 겪는 8가지 장애 케이스를 100% 실습으로 진행!

    수백가지의 장애 상황을 겪어보신 10년차 강사진과 함께해요.

    이런 글도
    있어요

  • 2024년 LLM기반 AI서비스 개발 고도화의 핵심 : 프롬프트 엔지니어링, RAG, Function Calling

    2024년 LLM기반 AI서비스 개발 고도화의 핵심 : 프롬프트 엔지니어링, RAG, Function Calling

    AI.ing

    2024년 LLM기반 AI서비스 개발 고도화의 핵심 : 프롬프트 엔지니어링, RAG, Function Calling

    #LLM

    #프롬프트엔지니어링

    AI 서비스 성능이 향상되면서 챗봇, 지식 관리 시스템, 콘텐츠 생성 등 다양한 LLM을 기반으로 AI서비스가 개발되고 있습니다. 그중에서도 최근에는 많은 기업들이 OpenAI사에서 만든 GPT모델을 이용해 프롬프트 엔지니어링만으로 AI 서비스를 빠르게 만들고 있는데요. 더 자세히 알아보겠습니다.

    1. 프롬프트 엔지니어링이란 무엇일까요?

    프롬프트 엔지니어링이란 더 정확한 출력을 유도하기 위해 입력 쿼리 또는 명령을 정제를 하고, 프롬프트를 반복해 성능을 최적화하는 것입니다. 프롬프트 엔지니어링을 할때 대부분의 노력은 실제로 프롬프트 작성에 있지 않습니다. 오히려 프롬프트 엔지니어링에서 가장 중요한 것은 강력한 평가 체계를 개발하고, 그에 따라 테스트하고 반복하는 것입니다.

    2. 프롬프트 개발 생명주기 : 프롬프트 엔지니어링 고도화 방법

    이러한 프롬프트 엔지니어링 고도화하는 방법을 살펴보기에 앞서 작업을 위한 프롬프트를 개발할 때 사용하는 주요 프로세스를 살펴보겠습니다.

    1단계 :  작업 및 성과 기준 정의: 가장 먼저 클로드가 수행할 특정 작업을 명확하게 정의하기

     

    엔터티 추출, 질문 응답, 텍스트 요약부터 코드 생성이나 창의적 글쓰기와 같이 더 복잡한 작업을 수행할 수 있습니다. 작업을 명확히 정의한 후, 평가 및 최적화 과정을 이끌어 나갈 성과 기준을 수립해야 합니다. 처음부터 명확하고 측정 가능한 성과 기준을 설정해줄 경우, 프로세스 전반에서 정보를 기반으로 결정을 내려 올바른 목표를 위해 최적화 할 수 있습니다. 

     

    2단계 : 테스트 케이스 개발: 다양한 테스트 케이스 만들기
    기준을 수립한 후에는, 응용 프로그램의 의도된 사용 사례를 커버하는 다양한 테스트 케이스 세트를 만들어야합니다. 이때, 일반적인 예제와 엣지 케이스 모두를 포함해 프롬프트가 견고하도록 만드는 것이 핵심입니다. 

     

    3단계 : 초기 프롬프트 설계: 표준 입력 및 출력 정의하기
    작업 정의, 좋은 응답의 특징, 그리고  클로드가 따를 수 있는 표준 입력 및 출력을 예시에 정의합니다.

     

    4단계 : 테스트 케이스에 대한 프롬프트 테스트: 일관된 평가기준으로 테스트 케이스 비교 평가하기
    테스트 케이스를 사용하여 클로드에 초기 프롬프트를 입력하고 예상 출력과 성공 기준을 비교하여 평가합니다. 성능을 평가할 때 가장 중요한 것은 일관된 평가기준을 적용하는 것입니다. 

     

    5단계 : 프롬프트 테스트 케이스 반복 수행 및 클로드 수정하기
    테스트 케이스에서의 성능을 개선하고 성과 기준을 더 잘 충족시키기 위해 4단계의 과정을 반복적으로 수행하고 수정합니다. 이 과정에서 클로드의 행동에 설명, 예시 또는 제약 조건이 추가될 수 있습니다. 하지만 집약적인 입력 세트 추가는 능력 저하로 이어질 수 있으니 주의해야합니다.

     

    6단계 : 프롬프트 출시- 최종 프롬프트를 배치하고 모니터링 하기
    최종 프롬프트를 응용 프로그램에 배치합니다. 초기 테스트 세트에서 예상하지 못한 극단적인 경우가 발생할 수 있기 때문에  모델의 성능을 계속해서 모니터링하고 필요한 경우 추가적인 개선을 준비해야 합니다. 

     

    이 과정을 통해 능력이 뛰어난 모델과 제약없는 프롬프트를 시작할 수 있습니다. 원하는 풀력 품질을 달성했다면 필요에 따라 지연 시간과 비용을 줄이기 위해 더 짧은 프롬프트나 더 작은 모델과 같은 최적화를 도전할 수 있습니다.

     

    하지만, 이렇게 프롬프트 엔지니어링으로 잘 개발해도, 할루시네이션 때문에 AI 서비스 개발에 어려움이 있을 수 있습니다.  할루시네이션의 원인은 AI가 학습하지 않는 데이터는 대답하지 못해, 제공되는 정보가 부족하면 정확도가 떨어지는 답을 할 수 밖에 없기 때문인데요. 그래서 요즘 빅테크 기업들은 이 할루시네이션을 해결하기 위해서, 기업용 내부 데이터를 학습시키거나 실시간 외부 데이터를 가져올 수 있게 하는 기술인 ‘RAG(검색 증강 생성)’을 필수로 사용해 할루시네이션 현상을 최소화하고 있습니다. 

    3. RAG(Reinforced Acquisition Gateway)란 무엇일까요?

    검색-보강 생성(RAG)은 사용자가 프롬프트를 제출하고 LLM이 출력을 생성하는 사이에 중간 단계가 포함된 프롬프트 엔지니어링 기술입니다. 이 단계에서, LLM 기반 애플리케이션은 훈련에 포함되지 않았던 더 관련성 높고 품질이 높은 추가 정보를 검색합니다. 예를 들어 최근 검색 엔진 결과의 데이터(예: ChatGPT의 “Bing으로 탐색” 기능)와 기업의 지식 베이스에서 검색하는 맞춤형 GPT와 같은 독점 데이터셋입니다.

    결과적으로, RAG를 활성화한 애플리케이션은 재교육 없이도 더 관련성 높은 출력을 생성할 수 있으며, 발생할 수 있는 오류를 줄일 수 있습니다.

    여기서 그치지 않고 이왕 AI 서비스 만드는데, 앵무새같은 챗봇이 아닌 스스로 생각하고 행동하는 AI 에이전트를 만드는게 좋겠죠? 이러한 AI에이전트와 관련해서 빌게이츠는 “인공지능 Agent는 기술 업계와 사회 전반에 엄청난 영향을 미칠 것이며, 결국 미래는 AI 비서를 만드는 기업이 승리할 것이라고 말했습니다. 이렇듯 생성 AI기술이 끝없이 발전하면서 단순 채팅만 가능한 AI/LLM 서비스를 개발하는 것으론 경쟁력이 떨어지는 시대가 도래했습니다.

    4. 스스로 생각하고 행동하는  Agent 기반 AI서비스 핵심 기술 : Function Calling

    Agent 기반 AI서비스에는 여러 구현 방식이 있는데, 그중에서도 OpenAI에서 제공하는 ChatGPT API의 ‘Function Calling’ 기능이 핵심 방식 중 하나입니다! Function Calling은 AI 에이전트가 특정 기능이나 서비스를 실행하기 위해 외부 프로그램이나 라이브러리의 함수를 호출하는 과정을 말합니다. 이 과정을 통해 AI 에이전트는 다양한 데이터를 처리하거나, 외부 시스템의 정보를 가져오거나, 필요한 작업을 수행할 수 있습니다.

    예를 들어, AI 에이전트가 날씨 정보를 기반으로 사용자에게 옷차림을 추천하는 서비스를 제공한다고 가정해 봅시다. 이 경우, AI 에이전트는 날씨 정보를 제공하는 외부 API의 Function을 호출하여 현재 날씨 정보를 얻은 후, 그 정보로 사용자에게 적절한 옷차림을 추천할 수 있습니다.

    Function Calling을 통해 AI 에이전트는 자신의 기능을 확장하고, 다양한 작업을 보다 효율적으로 수행할 수 있게 됩니다. 이는 AI 에이전트가 보다 복잡한 문제를 해결하고, 사용자에게 보다 풍부한 서비스를 제공할 수 있게 하는 핵심 요소 중 하나입니다. 

    이렇게 2024년 LLM기반 AI서비스 개발 고도화의 핵심인 프롬프트 엔지니어링, RAG, Function Calling에 대해 알아보았는데요! 이러한 기술들 이왕 배울거면 프롬프트 엔지니어링부터 Function Calling까지 고도화해서 배우는게 중요하겠죠? 

    프롬프트 엔지니어링으로 시작하는 AI/LLM 서비스 개발을 9개 프로젝트로 알려주어  ‘네카라쿠배당토야’급 AI 서비스를 만들게 해주는 강의가 있습니다! 

    [프롬프트 엔지니어링으로 시작하는 AI/LLM 서비스 개발 : 9개 프로젝트로 챗봇부터 AI에이전트까지]

    이 강의는 무려 카카오 GenAI파트 리드가 메인 강사님이며 챗봇부터 ai 에이전트까지 모두 개발하실 수 있게 프롬프트 엔지니어링부터 RAG, Function Calling까지 모두 알려드립니다. 더불어 현직자분들이 자사 회사에 바로 만들어본 AI 서비스를 바로 도입할 수 있도록 API화해서 알려드리니 안배워볼 수 없겠죠?  쉽고 빠르게 AI 서비스를 개발할 수 있는 모든 것을 담았으니, 기회를 놓치지 마세요! 

    이런 글도
    있어요

  • OpenAI API, 2024년 실제 AI 서비스별 활용 사례 (ft. GPT-4V, DALL-E, Whisper…)

    OpenAI API, 2024년 실제 AI 서비스별 활용 사례 (ft. GPT-4V, DALL-E, Whisper…)

    AI.ing

    입문자를 위한 Docker & Kubernetes 개념
    및 정석 학습법 (ft. 컨테이너 환경)

    #LLM

    #LMM

    #프롬프트엔지니어링

    #멀티모달

    ㅣOpenAI란?

    OpenAI는 디지털 지능을 책임감 있고 안전하게 발전시키려는 목표로 설립된 AI 연구 기관입니다. 그리고 OpenAI의 API는, 개발자들이 처음부터 모델을 구축하고 훈련할 필요 없이 AI 기능을 AI 서비스나 애플리케이션에 추가할 수 있도록 해주는 사전 훈련된 모델 및 도구 세트라고 할 수 있습니다. API는 감정 분석, 이미지 인식, 텍스트 생성, 언어 번역 및 챗봇을 포함한 다양한 기능을 제공하고 있어, 프로젝트 목적별로 필요한 최상의 API를 선택해야 합니다.

    그래서, 이 글에서는 OpenAI의 API를 활용해 구현 가능한 기능들을 설명하고 AI 서비스별로 대표적으로 사용된 실제 사례들을 소개하고자 합니다. 먼저, OpenAI의 API를 활용해 AI 서비스를 개발하는 게 이득인 이유를 알아볼까요?

    ㅣOpenAI API의 차별점과 장점

    OpenAI의 API는 시장의 다른 API와 구별되는 다양한 고유한 기능과 기능을 제공합니다.

    사전 훈련된 모델: OpenAI의 API는 사전 훈련된 모델을 사용하므로 개발자들은 빠르고 쉽게 AI 기능을 애플리케이션에 추가할 수 있습니다.

    사용자 맞춤화: OpenAI의 API는 각 비즈니스의 특정 요구 사항에 맞게 커스터마이징할 수 있습니다.

    통합: OpenAI의 API는 기존 애플리케이션 및 워크플로우에 쉽게 통합할 수 있습니다.

    확장성: OpenAI의 API는 스타트업에서 대기업에 이르기까지 모든 규모의 기업에서 사용할 수 있습니다.

    – 사용 사례  1 : 감정 분석(Sentiment Analysis)

    감정 분석은 고객 리뷰, 소셜 미디어 게시물 또는 설문 응답과 같은 텍스트의 감정 톤을 결정하는 과정으로, 감정 분석의 목표는 특정 제품, 서비스 또는 주제에 대한 화자 또는 작가의 전반적인 태도를 파악하는 것입니다.

    👍🏻감성 분석 활용 시 장점

    향상된 고객 환경: 감정 분석은 기업이 고객의 감정을 이해하는 데 도움이 되므로 경험을 개선하기 위한 조치를 취할 수 있습니다.

    향상된 제품 피드백: 감정 분석을 통해 기업은 제품 피드백에서 더 많은 통찰력을 얻을 수 있으므로 개선해야 할 부분을 식별할 수 있습니다.

    고객 참여도 증가: 감정 분석을 통해 기업이 고객과 보다 의미 있고 개인화된 방식으로 서비스에 참여할 수 있습니다.

    ✅실제 AI 서비스에 사용 사례

    우버: 우버는 고객의 피드백을 분석하고 라이더의 전반적인 경험을 향상시키기 위해 감정 분석을 사용합니다.

    아마존: 아마존은 제품과 서비스에 대한 고객의 의견을 이해하기 위해 감정 분석을 사용하며 고객의 요구에 맞게 개선할 수 있습니다.

    텍스트에서 감정을 분석하는 아마존 Comprehend 서비스 (출처 : Classmethod, ‘텍스트 감정 분석 서비스 Amazon Comprehend를 사용해 봤습니다’)

    – 사용 사례  2 : 이미지 인식(Image Recognition)

    이미지 인식은 이미지 또는 비디오에서 물체, 사람 또는 장면을 식별하는 것입니다.  대규모 이미지 데이터 세트에서 머신 러닝 모델을 학습시켜 특정 객체나 패턴을 인식할 수 있도록 만듭니다.

    👍🏻이미지 인식 사용 시 장점

    정확도 향상: 이미지 인식은 의료 진단, 보안 및 감시와 같은 다양한 응용 분야에서 정확도를 높이는 데 도움이 될 수 있습니다.

    시간 절약: 이미지 인식은 이전에 수동으로 수행했던 작업을 자동화하여 시간을 절약하고 효율성을 높일 수 있습니다.

    향상된 고객 환경: 이미지 인식은 기업이 고객에게 보다 개인화된 매력적인 경험을 제공하는 데 도움이 될 수 있습니다.

    ✅실제 AI 서비스에 사용 사례

    월마트: 월마트는 이미지 인식을 사용하여 재고를 식별하고 추적하는 프로세스를 자동화하여 시간을 절약하고 정확성을 향상시키고 있습니다.

    페이스북: Facebook은 이미지 인식을 사용하여 사진에서 친구를 자동으로 태그하여 사용자가 사진을 쉽게 찾고 공유할 수 있게 합니다.


    고객과 직원 경험을 최적화하기 위한 월마트의 Intelligent Retail Lab(출처 : Mobile Marketing Magazine, ‘Walmart is opening its first experimental “smart” store, powered by AI’)

    – 사용 사례  3 : 텍스트 생성(Text Generation)

    텍스트 생성은 입력 데이터 세트를 기반으로 새로운 텍스트를 자동으로 생성하는 기능입니다. 이는 대량의 텍스트 데이터에 대해 학습된 딥러닝 신경망과 같은 고급 기계 학습 모델을 사용하면 가능합니다.

    👍🏻텍스트 생성 사용 시 장점

    생산성 향상: 텍스트 생성은 이전에 수동으로 수행했던 작업을 자동화하여 시간을 절약하고 생산성을 높일 수 있습니다.

    향상된 고객 환경: 텍스트 생성은 기업이 챗봇 사용과 같이 고객에게 보다 개인화된 매력적인 경험을 제공하는 데 도움이 될 수 있습니다.

    향상된 창의성: 텍스트 생성은 기존 데이터를 기반으로 제안을 제공함으로써 기업이 새롭고 혁신적인 아이디어를 생성하는 데 도움이 될 수 있습니다.

    ✅실제 AI 서비스에 사용 사례

    OpenAI: OpenAI는 챗봇, 콘텐츠 제작, 언어 번역과 같은 광범위한 응용 분야에 사용할 수 있는 최첨단 텍스트 생성 모델인 GPT-3을 개발했습니다.

    GrubHub: GrubHub는 텍스트 생성을 사용하여 메뉴 생성 과정을 자동화하여 시간을 절약하고 레스토랑 파트너의 효율성을 높입니다.

    텍스트를 생성하는 GPT-3 사용 사례 (출처 : 인공지능신문, ‘GPT-3, 인류 역사상 가장 뛰어난 ‘언어 인공지능’이다’)

    – 사용 사례  4 : 언어 번역(Language Translation)

    언어 번역은 한 언어에서 다른 언어로 텍스트를 변환하는 것입니다. 대규모 텍스트 데이터 세트에서 학습된 기계 학습 모델을 사용하며, 한 언어에서 다른 언어로 텍스트를 정확하게 번역할 수 있습니다.

    👍🏻언어 번역 사용 시 장점

    글로벌 커뮤니케이션 개선: 언어 번역을 통해 기업은 다양한 국가 및 지역의 고객, 파트너 및 직원과 효과적으로 의사 소통할 수 있으므로 글로벌 커뮤니케이션이 개선됩니다.

    시장 도달 범위 증가: 언어 번역은 기업이 새로운 시장으로 확장하고 새로운 고객에게 도달하여 시장 도달 범위를 늘리는 데 도움이 될 수 있습니다.

    향상된 고객 경험: 언어 번역은 고객이 모국어로 정보와 지원에 액세스할 수 있도록 제공하여 보다 개인화된 매력적인 고객 경험을 제공합니다.

    ✅실제 AI 서비스에 사용 사례

    에어비앤비: Airbnb는 사용자에게 목록에 대한 번역된 설명을 제공하고 사용자를 다국어로 지원하기 위해 언어 번역을 사용합니다.

    우버: 우버는 고객들에게 모국어로 앱 내 지원을 제공하기 위해 언어 번역을 사용하여 고객들이 앱을 더 쉽게 사용하고 필요한 지원을 받을 수 있도록 합니다.

    채팅 번역을 지원하는 우버 앱 (출처 : techrecipe, ‘우버, 앱 안에서 구글 번역으로 채팅을…’)

    – 사용 사례  5 : 챗봇 및 가상 비서(Chatbots and Virtual Assistants) 

    챗봇과 가상 비서는 텍스트 기반 또는 음성 기반 대화를 통해 사용자와 상호 작용하도록 설계된 컴퓨터 프로그램입니다. 이러한 프로그램은 자연어 처리(NLP)와 기계 학습 알고리즘을 사용하여 사용자 입력을 이해하고, 응답하여 자동화된 고객 지원 및 서비스를 제공합니다.

    👍🏻챗봇 및 가상 비서 사용 시 장점

    향상된 고객 서비스: 챗봇과 가상 비서는 고객 문의에 빠르고 정확한 응답을 제공하여 전반적인 고객 서비스 경험을 향상시킬 수 있습니다.

    효율성 향상: 챗봇과 가상 비서는 반복적인 작업을 처리하고 연중무휴로 지원할 수 있어 직원들이 더 복잡하고 부가가치가 높은 작업을 수행할 수 있는 시간을 확보할 수 있습니다.

    개인화된 경험: 챗봇과 가상 비서는 데이터와 알고리즘을 사용하여 고객과의 상호 작용을 개인화하여 보다 매력적이고 관련성 있는 경험을 제공할 수 있습니다.

    ✅실제 AI 서비스에 사용 사례

    뱅크 오브 아메리카: 뱅크 오브 아메리카는 챗봇을 사용하여 고객에게 은행 질문에 대한 빠르고 정확한 답변을 제공하여 전반적인 고객 경험을 향상시킵니다.

    H&M: H&M은 챗봇을 사용하여 고객에게 맞춤형 스타일링 조언과 제품 추천을 제공하여 참여도와 매출을 높이고자 합니다.

     

    패션 기업 H&M의 디지털 스타일리스트 챗봇 (출처 : medium, ‘Conversational AI in eCommerce: 9 of the Most Successful Chatbot Examples’)

    이처럼 OpenAI의 API를 잘 활용하면 AI와 머신러닝의 힘을 활용하려는 기업 또는 서비스에게 다양한 가능성을 만들어 줄 수 있습니다. 이미지 인식 및 텍스트 생성부터 언어 번역 및 챗봇까지 오픈AI의 API는 기업이 혁신하고 곡선을 앞서가는 데 필요한 다양한 도구를 제공합니다.

    기업 규모에 상관없이 고객 서비스를 개선하려는 중소기업이든 복잡한 작업을 자동화하려는 대기업이든 OpenAI의 API를 사용할 수 있습니다. 때문에, 방대한 양의 데이터를 처리하고 정확한 결과를 제공할 수 있는 역량을 갖춘 OpenAI의 API는 점점 더 기술 중심적인 세상에서 기업에게 경쟁 우위를 제공할 것으로 예측되고 있습니다.

    그러니, 뒤쳐지기 전에 OpenAI의 유명 모델은 물론 다양한 LLM/LMM 기반 모델을 사용하여 AI 서비스를 개발하는 법을 배우고 싶다면 국내 최초로 LMM을 활용한 AI 프로덕트 개발까지 다루는 이 강의를 주목하세요!

     

    6개 AI 프로덕트로 완성하는 LLM/LMM 서비스 개발의 모든 것

    : 프롬프트 엔지니어링부터 멀티모달까지

    AI? 프롬프트? 딥러닝? 모르셔도 괜찮습니다.
    AI 입문자도 LLM, 멀티모달 기반 어떤 AI 서비스든,
    이 강의에서 API&스택&기술 ‘조합’ 방법만 잘 배우면 개발 가능합니다!

    야*자, 파*고, 여기*때, 구*쇼핑 등
    가장 대표적인, 대중적인 LLM/LMM 기반 AI 프로덕트 6개를 총 80시간 동안, 기능부터 UI까지 99% 구현해봅니다.

    이미지 번역, 챗봇, 의류 가상 시착, 스피킹 연습 기능 등  AI 기능들을
    어떻게 실제 서비스와 똑같이 개발하고, 기존 서비스에 통합하는지 직접 경험해 보세요!

    > >강의 들으러 가기 >>

    * 원문 출처 : 5 Use Cases for OpenAI’s APIs – 2024 Updated

     

    이런 글도
    있어요

  • 입문자를 위한 Docker & Kubernetes 개념 및 정석 학습법 (ft. 컨테이너 환경)

    입문자를 위한 Docker & Kubernetes 개념 및 정석 학습법 (ft. 컨테이너 환경)

    AI.ing

    입문자를 위한 Docker & Kubernetes 개념
    및 정석 학습법 (ft. 컨테이너 환경)

    #도커

    #쿠버네티스

    #MSA

    #백엔드

    #DevOps

    I IT 시장의 트렌드를 주도하고 있는 컨테이너 환경의 핵심, 

    Docker & Kubernetes

     

    최근, 한국에서는 물론 전 세계적으로 컨테이너 환경과 MSA 아키텍처를 채택하는 추세가 두드러지고 있습니다. 빠르게 진화하는 디지털 환경에서, 애플리케이션을 현대화하고 민첩성을 향상시켜 서비스의 경쟁력을 강화하기 위해 많은 기업들이 컨테이너 환경을 선택하고 있죠.

     

    실제 CNCF(Cloud Native Computing Foundation)에서 발표한 ‘CNCF 연간 서베이 2021’에 따르면, 전 세계 조직의 96%가 쿠버네티스를 이미 사용 중이거나 검토 중인 것으로 알려졌습니다. 

     

    이런 상황은 국내 IT 대기업들도 마찬가지로,  아래 모든 기업들은 전부
    MSA 아키텍처를 도입했거나 도입 중입니다!

    개발 환경 혁신을 위한 ‘열쇠’가 된 Docker & Kubernetes의
    개념과 장점은?

     

    먼저 도커란, 컨테이너 기반의 오픈소스 가상화 플랫폼입니다. 이는 응용 프로그램이 호스트 운영 체제와 분리되어 독립적으로 실행되도록 하는 가상화 방식입니다. 이를 통해 응용 프로그램을 서로 다른 환경에서도 일관되게 실행할 수 있고, 개발 환경과 운영 환경 사이의 차이로 인한 문제를 줄일 수 있습니다. 도커 컨테이너는 가볍고 빠르며 확장성이 좋아서 개발 및 배포 프로세스를 간소화하는 데 사용됩니다.

      

    [Docker의 장점]

    ✅ 일관성 : 애플리케이션을 컨테이너로 패키지화하여 이식성을 높이고, 환경을 일관되게 유지합니다.

    ✅ 배포 신속성 : 컨테이너화된 이미지의 작은 크기와 가벼움으로 배포 속도와 하드웨어 효율성을 높여줍니다.

    ✅ 자원 효율성 : 가상화된 환경보다 자원을 효율적으로 사용할 수 있도록 호스트 운영 체제와 자원을 공유합니다.

    쿠버네티스란, 컨테이너화된 워크로드와 서비스를 관리하기 위한 이식성이 있고 확장 가능한 오픈소스 플랫폼입니다. 이는 컨테이너화된 애플리케이션의 배포, 확장, 부하 분산, 로깅, 모니터링 등의 관리 기능을 자동화하여 개발자 및 운영팀이 애플리케이션을 효율적으로 운영할 수 있도록 지원합니다. 쿠버네티스는 애플리케이션의 성능, 가용성 및 확장성을 향상시키는 데 도움이 되며, 클라우드 환경에서 활용할 수 있는 많은 기능을 제공합니다.

    [Kubernetes의 특징]

    ✅ 배포 자동화 : 컨테이너화된 애플리케이션을 자동으로 스케줄링하고 배포하며, 장애 상황에 대비하여 자동으로 복구합니다.

    ✅ 오토스케일링 : 특정 컨테이너에서 갑작스런 부하가 발생할 경우 이를 감지하여 모니터링하며, 정해진 수준 이상을 초과하면 스케일 아웃하여 자동으로 컨테이너를 확장하여 부하를 분산시킵니다.

    ✅ 자동 복구: 쿠버네티스는 컨테이너나 노드의 장애를 감지하고 자동으로 복구 작업을 수행합니다. 이를 통해 시스템의 가용성을 높이고 장애 상황에 대비할 수 있습니다.

     

    Docker & Kubernetes의 개념 및 학습을 위해 꼭 챙겨야 할 포인트

    📌도커 학습 포인트

    Point1:  초보자는 설치부터 어렵다, 만만히 보지 말 것!

    도커는  운영체제 / 시스템 요구사항 / 네트워크 구성 / 호환성 문제 등 설치 과정에서도 이렇게나 고려해야 할 요소들이 많습니다. 계속 발생하는 오류에 고통받으며 설치에만 몇 시간씩 걸리시는 입문자분들이 많으신데요, 때문에 컴퓨터별 운영 체제와 버전을 적절하게 선택해서 설치하는 것이 필요합니다. 

     

    Point2:  명령어 무지성으로 달달 암기하지 말 것!

    물론, 주요 명령어를 암기하고 시작한다면 도커를 시작하는 데 도움이 될 수 있습니다. 하지만 도커는 단순히 명령어를 입력하여 사용하는 것보다 그 사용 방법과 원리를 이해하는 것이 중요합니다. 실무에서 제대로 사용하려면 도커 네트워크 관리부터 도커 볼륨 설정, 그리고 컨테이너 간 상호 작용에 이르기까지 다양한 요소를 이해하고 활용해야 합니다.

     

    📌 Kubernetes 학습 Point

    Point1:  지속 업데이트에 따라 계속 변화하는 특성을 고려할 것!

    쿠버네티스는 일 년에 세 번 새로운 버전을 출시할 만큼, 활발하게 유지 보수되는 프레임 워크입니다. 그래서 운영자는 주기적으로 버전 업그레이드를 통해 새롭게 등장하는 기능과 혜택을 활용할 필요가 있습니다. 또한, 새로운 버전과 호환되지 않는 플러그인, 라이브러리 등을 사용하고 있는 경우에는 시스템이 정상적으로 작동하지 않을 수 있습니다.


    Point2:  학습 난이도 높음 주의, 중간에 포기하지 말 것! 쿠버네티스는 복잡한 아키텍처와 다양한 개념 때문에 높은 진입장벽을 가지고 있습니다. 이렇게 어려운 쿠버네티스를 쉽게 배우기 위해선, 글보단 한 눈이 파악이 되는 이런 도식 자료를 통해 학습할 필요가 있습니다.

     

    또 관련 커뮤니티를 적극적으로 활용하여 쿠버네티스나 다른 기술적인 문제에 대한 해결책을 모색하는 것도 좋은 방법입니다. 이러한 온라인 커뮤니티에서는 다양한 전문가들과 개발자들이 모여 있기 때문에 새로운 관점과 아이디어를 얻을 수 있습니다. 

    하지만, 이보다 선배나 멘토가 있다면 더욱 빠르고 효율적으로 문제를 해결할 수 있습니다. 선배나 멘토는 자신의 경험과 전문 지식을 바탕으로 지원을 제공하고, 실제 문제에 대한 실질적인 해결책까지 제시할 수 있기 때문이죠.

    📌 제일 중요한 마지막 학습 포인트!

    가장 중요한 포인트는, 도커와 쿠버네티스를 각각 따로 배우지 말아야 한다는 것입니다. 도커와 쿠버네티스는 상호 연관성을 띠고 있기 때문에, 내용부터 연결되게 학습하고 이어서 프로젝트까지 경험해 보는 게 필요합니다. 특히, 요즘 소프트웨어 개발은 클라우드 네이티브 환경에서 대부분 이루어지고 있어 도커와 쿠버네티스 모두 클라우드 네이티브 개발 및 배포의 핵심 기술이 되었습니다. 때문에 도커와 쿠버네티스의 상호 연관성을 이해해 함께 활용할 줄 아는 것은 현대 개발자에게 필수 역량으로, 백엔드와 DevOps를 가리지 않고 어떤 개발자든 알아두어야 하는 스킬입니다.

    이런 포인트들 모두 고려하고 싶다면 

    이 강의로 Docker & Kubernetes 마스터할 것!

    ❇️도커 명령어만 달달 외우다 포기하지 말고, 차근차근 25시간 실력 빌드업!
    입문자를 위한 설치부터, 도커 이미지 생성 & 배포, CI 자동화까지 

    ❇️맨날 바뀌는 쿠버네티스는 원리 학습으로 탄탄 기초 완성!
    변하지 않는 동작원리와 핵심 아키텍처에 집중해 견고한 역량을 다져보세요

    ❇️실무 프로세스 그대로, 도커 > 쿠버네티스 연결한 MSA 프로젝트
    도커와 쿠버네티스의 상호 연관성을 알아야 실무 환경을 깊이 있게 이해할 수 있습니다!

    ❇️막힘없는 학습을 위한, 빅테크&대기업 교육 전문 강사님의 질의응답 채널!
    에러 뜨거나 답답한 순간이 있다면 언제든 물어보세요! 강사님이 직접 답변해 드립니다.

    >>강의 들으러 가기 >>

    이런 글도
    있어요

  • [2024 네카라쿠배 코딩테스트 합격을 위한 3가지 전략 | 단기 합격 꿀팁!]

    [2024 네카라쿠배 코딩테스트 합격을 위한 3가지 전략 | 단기 합격 꿀팁!]

    AI.ing

    2024 네카라쿠배 코딩테스트 합격을 위한
    3가지 전략 | 단기 합격 꿀팁!

    #코딩테스트

    #파이썬

    #코딩테스트준비

    팀 네이버에서 2024 상반기에 소프트웨어 개발, 인프라, 보안 등 다양한 분야에서 인재를 모집하며, 상반기 공채가 본격적으로 시작되고 있습니다!

    요즘은 대부분 기업들이 코딩테스트를 보기 때문에 더욱 준비할 것들은 많아졌어요. 자기소개서 쓰랴, AI 역량 검사 준비하랴, 코딩테스트까지 챙길 게 너무나도 많죠?!

    개발자가 되기 위해선 꼭 필요한 코딩테스트! 그렇다고 무작정 준비하면 낭패 볼 수 있어요. 특히 네카라쿠배 코딩테스트는 타 기업대비 난이도가 어려운 편으로 평범하게 준비하면 절대 뚫을 수 없습니다. 

    합격을 위해 가장 중요한 것은 전략적인 준비입니다. 프로그래밍 언어 선택부터 목표하는 기업의 기출 문제 수준과 유형을 파악하고 기업 맞춤형 코딩테스트를 준비해야 빠르게 통과할 수 있답니다. 

    코딩테스트를 처음 준비하거나 단기 합격 전략을 알고 싶은 취준생, 이직러들!

    아래 3가지 전략들 가슴과 머리에 새기고 코딩테스트 합격 가보자고~

     

    ⭐2024 네카라쿠배 코테 단기 합격 전략⭐


    1.     프로그래밍 언어 선택: 코딩테스트 입문계의 절대강자 Python!

    ‘취준생들이 가장 많이 하는 질문 중 하나로 “아무 언어나 일단 시작하면 되죠?”라는 질문을 하곤 하는데요. 

    절대 아닙니다. 이렇게나 많은 프로그래밍 언어 뭘 선택해야 코딩테스트에 유리할까요?! 물론 본인에게 가장 친숙한 언어가 있다면 해당 언어로 진행하는 것이 좋지만, 아직 친숙한 언어가 없고 코딩테스트에 익숙하지 않다면 파이썬으로 준비하는 것이 가장 유리합니다. 

    아래처럼 파이썬의 대표적인 장점 때문에 2022년 프로그래머스의 설문조사에 따르면 가장 인기 있는 코딩테스트 언어 TOP 1에 올랐다고 해요! 

    <파이썬을 선택해야 할 이유>

    ✔️ 단순한 문법으로 읽고 쓰기가 쉬움

    ✔️ 다양한 분야와 직종에서 활용되어 범용성이 높음

    ✔️ 내장된 다양한 라이브러리와 도구를 제공해 효율성과 생산성이 높음

    ✔️ 가장 인기 있는 코딩테스트 언어로 레퍼런스 양 급증 중

     
     


    2. 프로그래밍 언어 선택: 코딩테스트 입문계의 절대강자 Python!

    코딩테스트를 무조건 양치기로 준비하시며 무작정 문제를 많이 푸시는 취준생분들 계실 텐데요. 실력은 늘겠지만, 우리에게 필요한 것은 취업 과정인 코테를 빨리 통과하고 취뽀를 하는 것! 이를 위해서는 기업별 코딩테스트 난이도와 빈출 유형을 파악해서 맞춤형 코딩테스트 준비가 필요해요.

    이처럼 실제 기업별로 난이도가 상이하고 빈출 되는 알고리즘들이 굉장히 다르답니다. 현재 내가 원하는 기업의 코딩테스트 출제 경향은 어떤지, 또 어떤 자료구조, 알고리즘이 필요한지 이해하는 것이 합격의 지름길!

     

    3. 단기 준비 전략: 출제자 의도 파악 필수!

    시중에 나와 있는 많은 문제, 강의, 책 뭐부터 봐야 할지 모르겠다고요?  아무리 많이 풀어도 출제자 접근법과 해결법을 훈련하지 않는다면 소용이 없습니다. 출제자의 관점으로 문제를 어떻게 접근해야 할지 또 어떻게 해결해야 할지를 알 수 있어야 문제 풀이 능력을 단기 성장시킬 수 있습니다. 





    이 3가지 전략들을 한 번에 다 준비할 수 있도록! 

    조건1. 코딩테스트에 가장 유리한 Python으로 준비할 것.

    →  파이썬 강의 따로 찾지 마세요! 문법 강의 10시간 한 번에 제공!

    조건2. 원하는 기업을 타겟팅한 문제와 모의고사를 챙길 것.

    → 기업 코테 난이도별 빈출 유형 300개 & 모의고사 6회

    → 주요 기업 코딩테스트 출제 경향 전략서

    → 매년 1회분씩 업데이트되는 트렌드 반영 모의고사

    조건3. 출제자의 접근법과 해결법을 완벽 습득할 것.

    → 삼성 코딩테스트 출제자의 이론 강의

    → 시간복잡도 감소를 위한 출제자가 알려주는 n가지 접근법

    → 출제자가 직접 손 글씨&그림으로 쉽게 이해하고 예제로 완벽 습득

    !시간이 촉박해요. 정말 이 많은 걸 단기로 가능할까요?!

    X걱정하지 마세요X
    코딩테스트라면 심장이 떨리는 코린이도 따라올 수 있게 단기 로드맵을 준비했어요!

    상황에 맞게 로드맵을 설정하고 효율적으로 코딩테스트 준비하세요.

     

    이런 글도
    있어요