"AI의 출력을 사람이 어떻게 믿는가"라는 질문의 세 번째 증거입니다. Search-Pro의 검증 게이트, STAR-Coach의 설명 레이어에 이어 — AI가 만든 지식의 모든 값을 화면 픽셀까지 되짚을 수 있게 만든 플러그인입니다.
앞의 둘과 다른 점은 개발 과정 자체가 측정 실험이었다는 것입니다. 20라운드 동안 아키텍처 6종을 실측 비교하고, 실패한 설계는 근거를 남기고 되돌렸습니다.
튜토리얼 영상에서 정작 필요한 값(설정값·명령어·수치)은 화면에만 있고 말로는 하지 않습니다. 자동 자막은 그걸 잘못 옮깁니다.
| 자막이 말한 것 | 화면에 있던 것 |
|---|---|
python |
python3 |
| 느리게 98배 | 0.98x — 소수점이 사라짐 |
| 임베딩 136개 | 1536차원 |
마지막 줄이 이 도구의 존재 이유입니다. 자막만 믿은 AI는 136차원 벡터를 만들고, 그 코드는 전부 깨집니다. 사람은 화면을 보고 알아채지만, 자막만 읽는 도구는 못 잡습니다. 그리고 그 값을 그대로 실행하는 건 AI입니다.
프롬프트를 고쳐 가며 감으로 튜닝하는 대신, 같은 영상을 반복 실행해 구조를 비교했습니다.
| 구조 | 비용 | 왜 |
|---|---|---|
| 합성을 3조각으로 병렬 | $11.74 | 셋 다 재료를 전량씩 읽음 |
| 2개 에이전트 분업 | $10.22 | 재료를 두 번 삼 |
| 단일 에이전트 | $4.75 | 재료를 한 번만 삼 |
LLM은 요청 사이에 기억이 없어 매번 문맥 전부를 다시 보냅니다. 새 문맥에 재료를 처음 넣는 값(캐시 쓰기)이 재사용의 12.5배라, 나누면 재료를 여러 번 사게 됩니다. 게다가 화면을 본 문맥이 문서까지 써야 설정값 회수가 가장 높았습니다.
한 세션 실측: 코드 게이트 위반 0회, 프롬프트 위반 여러 번.
가장 아팠던 사례 — 프롬프트가 "확대는 1024로 뽑아라"라고 요구했는데 스크립트 기본값이 512였고, 그건 지도 프레임과 같은 해상도였습니다. 지시를 놓친 실행은 확대가 같은 파일을 다시 만들어 읽을 새 정보가 없었습니다.
그래서 조율은 늘 같은 모양이었습니다 — 판단을 하나씩 코드로 옮긴다. 프레임 개수, 지식 예산, 검문 분모, 형식 관용을 전부 프롬프트의 부탁에서 스크립트의 계산으로 옮겼고, 옮길 때마다 위반이 0이 됐습니다.
에러를 내는 버그는 금방 찾습니다. 문제는 조용히 초록불이 켜지는 것이었습니다.