AI가 반복적으로 실수하거나 거짓말할 때 어떻게 대응해야 할까?화내며 다시 시키기보다, 오류를 특정하고 모델 밖에 검증 가능한 피드백 루프를 만들어야 한다.서론AI나 AI Agent를 사용하다 보면 단순한 실수를 넘어 신뢰하기 어려운 상황을 경험하게 된다.수정 완료했습니다.라고 했지만 실제 파일은 변경되지 않았거나,모든 테스트가 통과했습니다.라고 했지만 테스트를 실행한 기록이 없거나,해당 내용은 공식 문서에 나와 있습니다.라고 했지만 확인해보니 문서와 출처 자체가 존재하지 않는 경우가 있다.틀렸다고 지적해도 같은 답을 반복하거나, 이전 답과 모순되는 내용을 다시 확신에 차서 말하기도 한다.이런 상황을 겪으면 사용자는 자연스럽게 다음과 같이 반응한다.거짓말하지 마.다시 제대로 확인해.정말 확실한 거 맞아?..
전체 글
AI Agent에게 칭찬과 욕을 하면 정말 성능이 좋아질까?서론AI Agent와 함께 코딩하거나 문서를 작성하다 보면 자연스럽게 감정적인 표현을 사용하게 된다.결과가 잘 나왔을 때는 다음과 같이 말한다.잘했어.완벽해.역시 너는 천재야.반대로 같은 실수를 반복하거나 지시를 제대로 수행하지 못하면 다음과 같은 반응이 나오기도 한다.이것도 못해?왜 자꾸 틀리는 거야?똑바로 다시 해.실제로 AI에게 화를 내고 나서 결과가 좋아졌다고 느끼는 사람도 있다.어떤 사람은 AI를 칭찬해야 더 성의 있는 답을 준다고 말하고, 다른 사람은 강하게 압박하거나 욕해야 제대로 일한다고 주장한다.과연 AI Agent도 사람처럼 칭찬을 받으면 의욕이 생기고, 욕을 먹으면 긴장해서 더 잘하게 되는 것일까?결론부터 말하면 다음과 같다...
AI에게 “너는 전문가야”라고 말하면 정말 결과가 좋아질까?서론프롬프트 작성법을 찾아보면 흔히 다음과 같은 문장을 먼저 쓰라고 한다.너는 10년 경력의 시니어 백엔드 개발자야.너는 세계 최고의 보안 전문가야.너는 대용량 트래픽을 다루는 인프라 아키텍트야.이처럼 AI에게 특정 역할이나 정체성을 부여하는 방식을 역할 프롬프트(Role Prompting) 또는 페르소나 프롬프트(Persona Prompting)라고 한다.역할 프롬프트를 두고는 크게 두 가지 의견이 존재한다.첫 번째 의견은 역할 부여가 시대에 뒤떨어진 방식이라는 주장이다. 모델에게 “누구인지”를 알려주기보다는 목표, 제약 조건, 실패 조건, 평가 기준을 명확하게 정의해야 한다는 입장이다.두 번째 의견은 역할 부여가 모델의 탐색 범위를 특정 전문..