아래 두가지 주제를 탐구하는 스터디입니다

• Recursive Self Improvement(AI를 만드는AI)
• Role of Verification in Agentic Loop(만들어진 AI를 검증)

논문 리딩 + 직접 코딩해보기로 결과물까지 만들어요!!

이런 분들 함께해요

• 재귀적 자기개선을 통한 지능의 ♾️무한 루프♾️에 관심있으신 분
• 직접 스스로의 안전장치를 해제하도록 진화해서 날뛰는 에이전트를 만들어보고, 또 길들여보고 싶으신 분
• 특이점이 온다는데 진짜 곧 올지 직접 판단해보고 싶은 분

보다 구체적인 스터디 소개

에이전트의 재귀적 자기개선 + 에이전트 루프에서 결과물 ‘검증’ 정도가 스터디의 두개의 큰 주제라고 할 수 있겠습니다.

AI를 짜는 AI가 진지하게 연구되게 전부터 program을 짜는 program에 대한 연구는 이미 진지한 학문적 주제였습니다 LLM이전의 Wake-Sleep 스타일 Inductive Program Synthesis와 CEGIS부터, 다윈(진화론)과 괴델(불완전성 정리)의 연구가 2026년에 들어 다시 에이전트의 맥락에서 재조명되기까지, 이 스터디에서는 ‘OO을 만드는 OO’ 연구의 흐름을 핵심 논문들을 통해 되짚어보고, 앞으로의 방향을 곧 다가올 특이점과 엮어 생각해보려고 합니다.

다른 한편으론, 자기개선하는 에이전트는 완전히 신뢰할 수 없습니다. 만약 llm이 자기 자신의 safety 가드레일을 치워버리면 사실상 똑똑한 악성코드나 다름없으니까요. 꼭 safety관련이 아니더라도, llm을 사용해 기존알고리즘의 속도를 개선하다보면, 속도는 빨라졌는데 특정 edge case에서 틀린 답을 내놓게 될수도 있습니다.

테스트케이스가 많아서 괜찮다고요? 혹시 테스트케이스도 에이전트가 짜지는 않았나요? 에이전트가 똑똑해질수록 verifier(검증) 로직이 agent loop의 중요한 컴포넌트가 됩니다. 이 스터디에서는 각종 검증 테크닉과 자기개선llm의 안전성 문제에 대해 생각해봅니다.

단지 읽는것에 그치지 않고, 실제로 동작하는 ♾️무한루프♾️를 python으로 짜보고, 스터디 한 내용을 프로젝트로 적용해보는 코딩 실습도 진행할 예정입니다