728x90
반응형
SMALL

IT 106

[Kanana-o] AI 앰배서더 회고록: 발대식부터 우수 앰배서더 수상까지

"4개월" 이란 시간은,짧다면 짧고, 길다면 길었습니다.발대식부터 온·오프라인 세션, 전시 행사까지 다양한 형태로 활동하면서 가장 좋았던 건,앰배서더가 아니었다면 듣기 어려웠을 이야기들을 직접 접하며, 나도 한단계 성장할 수 있었다는 점입니다. 기획자가 서비스를 어떤 방향으로 풀어가려 했는지,개발자가 어떤 구조적 고민을 했는지,보안 담당자가 왜 그 지점에서 선을 그었는지. 등등 각자의 관점에서 나온 고민과 의도를 현장에서 직접 들을 수 있었습니다. 다른 앰배서더 분들의 엄청난 퍼포먼스에서도 많은 자극을 받기도 했으며직접 구현해보고, 함께 공감할 수 있었던 경험들이 이번 활동에서 가장 남는 부분입니다.일시활동형태장소2026-03-13KANANA 429 발대식오프라인 밋업카카오 AI 캠퍼스2026-04-02..

IT/AI 2026.07.05

[Kanana-o] 직접 만든 멀티모달 채용검색 서비스 오픈해보기 (#CareerLens)

CareerLens - AI 기반 채용검색 서비스https://careerlens.kro.kr/ CareerLens - AI 기반 채용검색 서비스당신의 커리어, 렌즈로 보다careerlens.kro.kr 왜 Kanana-O로 멀티모달 채팅 서비스를 만들었는가사이드 프로젝트에 AI 채팅 기능을 붙이면서 고민한 부분이 있었습니다. 텍스트만 주고받는 챗봇은 이미 흔하고, 음성과 이미지까지 함께 처리할 수 있으면 사용자 입장에서 훨씬 자연스러운 대화가 가능해집니다. 마침 Kanana-O API 앰배서더로 활동할 기회가 생겨, 직접 개발 중인 서비스에 Kanana-O 멀티모달을 연동해 보기로 했습니다.이 글은 단순 튜토리얼이 아닙니다. 실제로 개발하면서 맞닥뜨린 API 제약, 설계 고민, 그리고 직접 테..

IT/AI 2026.07.05

[Elasticsearch] 완전 무료 한국어 검색엔진 도입기 (Ollama + nomic-embed-text, 768차원 하이브리드 검색)

왜 Elasticsearch였는가기존 검색은 PostgreSQL의 ILIKE '%keyword%' 방식으로 동작했습니다. "백엔드 개발자"를 검색하면 해당 문자열이 그대로 포함된 데이터만 조회됩니다. "백엔드"와 "개발자"가 따로 포함된 데이터, 또는 "개발"이라는 어근을 공유하는 표현은 놓치게 됩니다.한국어 형태소 분석과 BM25 랭킹을 통해 관련도 기반 결과를 제공하고, 나아가 Ollama의 nomic-embed-text 모델로 임베딩을 생성해 키워드가 달라도 의미가 가까운 데이터를 찾는 시맨틱 검색까지 붙이는 것이 목표였습니다. ES관련 자세한 내용은 아래 공식링크를 참고하시면 됩니다.https://www.elastic.co/guide/kr/elasticsearch/reference/5.4/gett..

IT/Elasticsearch 2026.07.05

[Linux] 하루 16만 건 SSH 스캔, 서버 문 앞에 줄 선 해커봇을 차단하는 2가지 방법

갑자기 실패한 배포어느 날 GitHub Actions 배포가 실패했습니다. 에러 로그에는 이런 메시지가 남아 있었습니다.ssh: handshake failed: read tcp 10.1.0.234:53568->***:22: read: connection reset by peer kex_exchange_identification: read: Connection reset by peerConnection reset by *** port 22rsync error: unexplained error (code 255) SSH로 서버에 접속하는 두 개의 배포 Job이 동시에 실패했는데, 공통적으로 connection reset by peer라는 메시지가 찍혀 있었습니다. 서버가 SSH 연결 자체를 거부한 것입니다...

IT/Infra 2026.06.24

[Supabase] 응답속도 70% 단축! Mumbai에서 Seoul로 DB 옮기며 겪은 일들

왜 DB 리전을 옮기게 됐을까?서비스를 처음 만들 때는 DB 리전을 크게 신경 쓰지 않았습니다. 가입 당시 기본으로 잡혀있던 인도(Mumbai) 리전에 그대로 DB를 생성했는데, 정작 애플리케이션 서버는 한국 리전(Oracle Cloud)에 있었습니다. 문제는 같은 요청인데도 응답이 1초가 걸릴 때도 있고 30초 가까이 걸릴 때도 있었습니다. 처음에는 쿼리 문제인 줄 알고 인덱스와 커넥션 풀 설정을 한참 들여다봤는데, 정작 DB 쿼리 자체는 50~90ms로 전혀 느리지 않았습니다. 진짜 원인은 한국 ↔ 인도 간 리전간 네트워크 왕복(RTT)이 요청마다 누적되는 것이었습니다.Supabase 리전 목록(https://supabase.com/docs/guides/platform/regions)을 보면 알 수 ..

IT/DB 2026.06.11

[Kanana-o] 멀티모달 정말 잘 될까? 7가지 입력 시나리오 테스트 결과 총정리

멀티모달 검증지난 3개월 간 Kanana-O API의 멀티모달 입력 기능을 체계적으로 검증했습니다.텍스트만 입력하는 것부터 음성, 이미지를 함께 조합하는 방식까지 총 7가지 시나리오를 16개의 구체적인 테스트 케이스로 실행했습니다. 이 글에서는 각 시나리오별 실제 테스트 결과와 발견 사항을 정리합니다.Kanana 공식 API 문서를 참고하면 더욱 자세한 기술 사양을 확인할 수 있습니다. Kanana-o더욱 똑똑하게 답하며, 더욱 풍부한 감정표현을 향한 Kanana-o의 진화 과정omni.kanana.aiAPI 공식 가이드 문서 kakaocorp/Kanana-1.5-o-9.8B-instruct-2602-API_Doc · Hugging FaceWe’re on a journey to advance and de..

IT/AI 2026.06.05

[Kanana] 세상에서 가장 하찮은 프롬프트? 아니, 가장 창의로운 프롬프트!

프롬프트로 만드는 나만의 AI 영상 - 카나나 템플릿 워크숍5월 28일 카카오 판교아지트에서 열린 "나만의 '카나나 템플릿' 프롬프트 만들기 워크숍"에 참석했습니다.AI 기술과 창의성이 만나는 현장이 어떤 모습일지 기대하며 자리했는데, 예상을 훨씬 넘는 경험이었습니다. 이 글에서는 카나나 템플릿이 무엇인지, 그리고 워크숍에서 만난 사람들의 창의로운 순간들을 나눠보려고 합니다.자세한 내용은 카카오 Kanana 공식 서비스를 참고하시면 됩니다. 카카오톡에서 만나는 내 일상 속 AI지금 바로 경험해보세요!kanana.kakao.com 카나나 템플릿이란 무엇인가?채팅방에서 사진을 공유할 때, 영상으로 바꿔주는 마법이 있다면 어떨까요? 카나나 템플릿은 바로 그런 서비스입니다. 2026년 1월 카카오톡 업데이트로 ..

IT/AI 2026.06.04

[OCI] 무료 인스턴스 냅두면 사라진다? 자동 회수 조건과 대응책

서버를 "획득"한 다음, 이제 "유지"하는 방법지난번 OCI REST API와 쉘스크립트로 A1.Flex 인스턴스를 자동 선점하는 방법을 소개했습니다. API 호출과 크론탭으로 용량 확보 시 자동으로 서버를 생성하는 방법이었죠. [OCI] 무료 서버 잡기: API 스크립트로 A1.Flex 인스턴스 자동 선점 (+Discord 알람 연동)Elasticsearch를 자체 호스팅하려면 최소 4GB RAM 이상의 서버가 필요합니다.JVM 힙 메모리를 대량으로 사용하는 구조라 메모리가 부족하면 OOM으로 죽거나 정상 기동이 어렵습니다.항목Elasticsearch 최소snapcode.tistory.com 결국 서버를 만드는데 성공했습니다..! 하지만 서버를 획득했다고 끝이 아닙니다. Oracle Cloud의 Al..

IT/Infra 2026.06.04

[AI] CSP들의 LLM 서비스: Google, AWS, Microsoft (+Hugging Face)

클라우드 서비스 제공사에서 제공하는 LLM 서비스, 뭐가 있을까?LLM을 프로젝트에 활용하려면 어떤 플랫폼을 선택해야 할까요? 네이버 클로바 스튜디오처럼 LLM 학습, 튜닝, 추론을 모두 지원하는 서비스들이 많이 있습니다. 각 플랫폼마다 지원하는 모델, 가격, 튜닝 방식이 다르기 때문에 프로젝트의 요구사항에 맞게 선택하시면 됩니다.이번 글에서는 엔터프라이즈급 LLM 서비스 4가지를 비교해보겠습니다. 먼저 한눈에 보는 비교표로 각 서비스의 차이를 파악한 후, 각 서비스의 상세 설명을 읽으시면 좋을 것 같습니다.4가지 서비스 빠른 비교서비스모델 다양성파인튜닝가격대추천 대상Vertex AIGoogle 중심SFT, Prompt Tuning중간~높음엔터프라이즈, ML 파이프라인Bedrock✅ 최고 (Claude,..

IT/AI 2026.05.14

[LLM] 어떻게 작동할까? 필수 개념 Attention과 KV Cache (추론 최적화의 핵심)

Attention의 기본 원리Attention 메커니즘은 트랜스포머 모델의 핵심입니다. 각 토큰이 이전의 모든 토큰과 얼마나 "주목(Attend)"해야 하는지를 학습하는 방식입니다. LLM이 "다음 단어를 예측할 때 문맥을 이해하는 이유"가 바로 Attention입니다.Attention의 작동 방식을 이해하려면 세 가지 핵심 요소를 알아야 합니다. Query(Q), Key(K), Value(V)가 그것인데, 이들이 어떻게 상호작용하는지 보겠습니다. 자세한 내용은 트랜스포머 논문(https://arxiv.org/abs/1706.03762)을 참고하시면 좋을 것 같습니다. Attention Is All You NeedThe dominant sequence transduction models are based..

IT/AI 2026.05.14
728x90
반응형
LIST