본문 바로가기

전체 글

AI 환각(할루시네이션)이란? 생기는 이유와 걸러내는 법 AI 환각(할루시네이션)이란?AI 환각(할루시네이션)은 AI가 그럴듯하지만 사실이 아닌 내용을 마치 사실처럼 자연스럽게 만들어내는 현상입니다. 문장이 매끄럽다고 해서 그 내용이 사실이라는 뜻은 아닙니다. 그래서 AI의 답은 출처 확인·교차 검증·사람 검수라는 세 단계로 걸러 쓰면 환각으로 인한 위험을 줄이는 데 도움이 됩니다. 다만 이 절차를 거쳐도 오류가 완전히 사라진다고 보장할 수는 없습니다. 아래에서 환각이 왜 생기는지, 그리고 초보자도 바로 쓸 수 있는 걸러내는 방법을 하나씩 풀어보겠습니다.핵심 개념: 환각은 '거짓말'이 아니라 '자신 있는 오답'이다먼저 용어부터 정리하겠습니다. AI 환각(hallucination)은 챗봇 같은 AI가 실제로 존재하지 않는 사실, 잘못된 숫자, 없는 논문·법조문·.. 더보기
그 순간에만 존재하는 값을 잃지 않는 법: 진입 시점 데이터 저장 전략 문제: '왜 손해 봤지?'에 답할 수 없는 기록매매든, 실험이든, 사용자 행동 분석이든 결과를 남기는 시스템은 많다. 그런데 결과만 남기면 나중에 특정 질문에 답하기 어려울 수 있다. "이 거래는 왜 손해가 났을까?"라고 물었을 때, 살 때 어떤 상황이었는지에 대한 기록이 아예 없기 때문이다.실제 자동매매 프로그램을 손보면서 이 문제를 정면으로 겪었다. 매수 기록에는 그 종목을 왜 골랐는지 선정 점수 하나만 남아 있었다. 정작 살 때의 시장 상황 — 짧은 흐름과 긴 흐름, 하루 안에서 가격이 어디쯤이었는지, 거래량 비교, 가격이 얼마나 출렁였는지, 대표 코인의 움직임, 시장 심리 지표 — 은 어디에도 저장되지 않았다.그 결과, 이긴 비율은 높은데도 수수료를 빼면 손해가 나는 상황의 원인을 살 때의 상황별.. 더보기
EP.35 매수할 때와 팔 때 정보를 한 줄로 잇기: 자동매매 기록 개선기 P0-C 이번 회차에서 풀려던 문제물건을 살 때의 상황과 팔 때의 결과를 따로따로 적어두면, 나중에 "왜 손해를 봤지?"라고 물어도 답을 찾기 어렵다. 산 순간이 어떤 분위기였는지 기록이 남아 있지 않기 때문이다. 이번 작업은 바로 이 문제를 다뤘다.자동으로 사고파는 프로그램이 있는데, 사는 순간의 여러 정보(그때의 시장 흐름, 하루 안에서 가격이 어디쯤이었는지 등)를 저장했다가, 팔 때 그 기록을 다시 꺼내 하나로 이어 붙이는 기능을 넣었다. 이렇게 하면 "어떤 상황에서 샀을 때 결과가 좋았는지"를 한 줄로 볼 수 있다. 중요한 점은 실제로 사고파는 규칙은 하나도 건드리지 않았다는 것이다. 오직 기록만 늘린, 지켜보기 위한 작업이다.무엇이 부족했나 — 원인을 못 찾던 이유기록을 살펴보니 두 가지가 겹쳐 있었다... 더보기
RAG(검색증강생성)란? AI가 최신 정보를 모르는 이유와 해결법 RAG(검색증강생성)란?RAG(Retrieval-Augmented Generation, 검색증강생성)는 AI가 답을 만들기 전에 외부 문서나 데이터를 먼저 검색해서, 그 내용을 근거로 함께 참고해 답변하는 방식입니다. 쉽게 말해 '아는 것만으로 답하는 AI'에 '필요할 때 자료를 찾아보고 답하는 능력'을 붙인 것입니다.사람으로 비유하면, 시험을 볼 때 머릿속 지식만으로 푸는 것이 일반 AI라면, 참고서를 펼쳐 관련 페이지를 찾아 읽고 답을 쓰는 것이 RAG입니다. 정확한 정의로 돌아오면, RAG는 검색(Retrieval) 단계와 생성(Generation) 단계를 결합한 구조입니다. 먼저 질문과 관련된 문서를 데이터베이스에서 찾아오고(검색), 그 문서 내용을 AI에게 함께 전달해 답을 만들게 합니다(생성).. 더보기
달러 자산을 원화로 볼 때 수익률이 헷갈리는 이유와 표시를 분리하는 법 문제 제기 · 원화로 보면 왜 성과가 헷갈릴까달러로 무언가를 사두면 두 가지가 동시에 움직입니다. 하나는 산 자산 자체의 값이 오르내리는 것, 다른 하나는 달러와 원화를 바꾸는 비율(환율)이 오르내리는 것입니다. 이 둘이 한 숫자로 섞이면 "내가 잘 골라서 번 건지, 그냥 달러가 비싸져서 번 건지"를 구분할 수 없게 됩니다.실제 개발 기록에서도 같은 문제가 있었습니다. 투자 기록용 화면이 원화 총자산을 잘못 보여주고 있었고, 그 원인을 파고들어 보니 '환율'이라는 같은 단어를 서로 다른 목적에 뭉뚱그려 쓰고 있었다는 데 있었습니다. 이 글은 그 문제를 어떻게 확인하고 어떤 순서로 고쳤는지를, 달러 자산을 굴리는 개인 투자자·기록 도구를 만드는 사람이 자기 환경에 바로 적용할 수 있게 일반화해 정리한 것입.. 더보기
EP.34 달러 자산 원화 환산, 왜 수익률과 따로 봐야 할까 (EP.P0-A) 들어가며 · 원화로 보면 왜 헷갈릴까달러로 무언가를 사두면 두 가지가 동시에 움직입니다. 하나는 산 물건의 값이 오르내리는 것, 다른 하나는 달러와 원화를 바꾸는 비율이 오르내리는 것입니다. 이 둘이 섞이면 "내가 잘 골라서 번 건지, 그냥 달러가 비싸져서 번 건지"를 구분할 수 없습니다.이번 회차에서는 기록용 화면이 원화 금액을 잘못 보여주던 문제를 고친 이야기를 정리합니다. 결론부터 말하면, 성과는 달러 기준으로, 원화 금액은 참고용으로 따로 보여주도록 나눴습니다. 어느 하나를 없애는 게 아니라 두 숫자의 역할을 분리한 것이 핵심입니다.무엇을 확인했나 · 고정환율의 문제기존 화면은 원화 금액을 계산할 때 환율을 항상 1,380원으로 고정해서 썼습니다. 실제 환율은 매일 움직이는데 화면은 늘 같은 숫자.. 더보기
프롬프트란 무엇인가? 좋은 질문이 좋은 답을 만드는 이유 한 줄 결론프롬프트(prompt)는 AI 모델에게 원하는 결과를 얻기 위해 건네는 입력, 즉 지시문입니다. 같은 AI라도 어떻게 묻느냐에 따라 답의 품질이 달라지기 때문에, 좋은 질문이 좋은 답을 만든다는 말이 나옵니다. 아래에서 프롬프트가 정확히 무엇인지, 그리고 초보자가 흔히 헷갈리는 개념들을 하나씩 정리해 드리겠습니다.프롬프트란 무엇인가프롬프트는 쉽게 말해 AI에게 건네는 부탁이나 질문입니다. "이 문장을 영어로 번역해줘", "이메일 초안을 정중하게 써줘" 같은 한 줄도 모두 프롬프트입니다.조금 더 정확히 정의하면, 프롬프트는 AI 모델에게 원하는 결과를 얻기 위해 건네는 입력(지시문)을 말합니다. 여기에는 지시(무엇을 해달라), 맥락(어떤 상황인지), 역할(누구처럼 답해야 하는지), 형식(어떤 형.. 더보기
자동화가 사람 개입 후 멈추는 문제: 중복 없이 다시 태우는 재개 경로 설계법 문제 제기: 사람이 고쳐도 자동화로 돌아갈 길이 없다여러 단계를 이어 붙인 자동화(글 생성 → 품질 검사 → 이미지 생성 → 발행 대기)를 운영하다 보면, 중간 단계에서 멈추는 작업이 생길 수 있습니다. 품질 검사에 걸린 글이 대표적입니다. 이때 사람이 문장을 손봐서 검사를 통과시키는 것까지는 어렵지 않습니다. 진짜 문제는 그다음입니다.실제 개발 기록에서 확인한 상황은 이랬습니다. 검사에 걸리면 자동으로 이어지는 작업 흐름은 돈이 드는 이미지 생성 단계를 건너뜁니다. 그런데 사람이 원고를 고쳐 검사를 통과시켜도, 한 번 건너뛴 그 단계가 저절로 되살아나지 않았습니다. 결국 사람이 이미지를 손으로 만들어 다시 올렸고, 그 재업로드 과정에서 블로그에 중복 초안이 실제로 생겼습니다.핵심 원인은 기능 부족이 아.. 더보기
반응형

티스토리툴바