AI에게 일을 맡기기 전에, 말부터 맞춥니다 — AI 특집 1부: 챗봇에서 에이전트, 그리고 하네스

"AI가 써 준 표준작업지침서(SOP) 초안, 그대로 써도 될까요?" 요즘 교육과 컨설팅 현장에서 가장 자주 듣는 질문입니다. 답을 하려면 먼저 말을 맞춰야 합니다. 환각, 에이전트, 하네스 같은 말이 무엇을 가리키는지 같은 뜻으로 이해해야, 무엇을 통제하고 무엇을 기록할지 이야기할 수 있습니다.

이번 특집은 두 편입니다. 1부는 말을 맞춥니다. 제약사 대상 AI 교육에서 쓴 아이앤씨피(I&CP) 용어집 가운데 18개를 골라 GMP 관점으로 풀고, 그 말대로 일하는 아이앤씨피의 모습을 보여 드립니다. 2부는 GMP 현장으로 가져갑니다.

읽는 법 — 용어 풀이는 아이앤씨피의 교육용 풀이이며 규제기관의 정의가 아닙니다. i&CP 견해는 아이앤씨피의 해석입니다. 규제 문서의 내용과 현재 상태는 2부에서 원문을 대조해 다룹니다.

1AI 기본 말 6개

생성형 AI가 어떻게 답을 만들고, 왜 틀리는지를 설명하는 말입니다. 왼쪽은 정의, 오른쪽은 GMP에서 보는 점입니다.

용어	뜻	GMP에서 보는 점
대규모 언어 모델LLM, Large Language Model	아주 많은 글을 학습해, 앞의 글 다음에 올 말을 확률로 골라 이어 쓰는 AI 모델입니다. 쉽게 말하면 — 자동완성을 매우 크게 키운 것. 사실을 찾아보고 답하는 것이 아니라 '그럴듯한 다음 말'을 고릅니다.	그럴듯함과 정확함은 다릅니다. 수치·근거는 기초 자료와 대조합니다.
생성형 AIGenerative AI	글·코드·그림처럼 새 결과물을 만들어 내는 AI입니다. 쉽게 말하면 — 정답을 고르는 AI가 아니라 초안을 써 주는 AI.	초안은 초안입니다. AI 초안도 해당 업무의 기록 요건과 절차에 따라 사람이 검토하고 승인합니다.
프롬프트(요청문)Prompt	AI에게 주는 지시와 자료 전체입니다. 쉽게 말하면 — 업무 지시서. 목적·자료·규칙·출력 형식을 빠뜨리면 AI가 빈칸을 짐작으로 채웁니다.	프롬프트가 바뀌면 결과가 바뀝니다. 구성 항목으로 버전을 관리합니다.
문맥 / 문맥 창Context / Context window	문맥은 AI에게 준 정보(대화·첨부 자료), 문맥 창은 한 번에 처리할 수 있는 양의 한도입니다. 쉽게 말하면 — 책상 위에 펼칠 수 있는 서류의 양.	자료가 한도 밖으로 밀려나면 근거 없이 답할 수 있습니다. 근거 자료가 실제로 읽혔는지 확인합니다.
환각Hallucination	자료에 없거나 사실이 아닌 내용을 그럴듯하게 만들어 내는 것입니다. 쉽게 말하면 — 모르는 문서번호를 '있을 법한 번호'로 지어 넣는 것.	환각은 겉으로 그럴듯해서 알아차리기 어렵습니다. 자료에 없는 것은 [확인 필요]로 표시하게 합니다.
비결정성Non-determinism	같은 질문을 넣어도 실행할 때마다 다른 답이 나올 수 있는 성질입니다. 쉽게 말하면 — 같은 직원에게 같은 일을 두 번 시키면 표현이 달라질 수 있는 것.	한 번의 결과로 성능을 단정하지 않고, 기준이 되는 실행 결과를 보관합니다.

AI는 모르면 "모른다"고 하기보다 그럴듯하게 채웁니다. 그래서 GMP에서는 AI의 답을 기초 자료와 대조합니다.

2답하는 AI와 일하는 AI — 에이전틱 AI

요즘 AI 소식에서 가장 많이 나오는 말이 에이전트(agent), 에이전틱 AI(agentic AI)입니다. 질문에 답만 하는 것이 아니라, 목표를 받아 스스로 단계를 나누고 파일을 만들고 도구를 실행하며 일을 끝까지 하는 AI를 말합니다.

챗봇

"보고서 써 줘" → 답장 한 통

질문을 받는다
아는 말로 답한다
끝. 확인과 수정은 사람 몫

에이전트

"보고서 써 줘" → 일을 끝낸다

할 일을 단계로 나눈다
자료를 찾아 읽고 파일을 만든다
도구로 계산·검사를 돌린다
"끝났습니다, 통과했습니다"라고 보고한다

에이전트가 일을 하려면 파일 읽기, 명령 실행, 메일, 클라우드 저장소 같은 외부 기능을 직접 써야 합니다. 이것을 도구 사용이라 하고, 그 연결 통로를 커넥터라고 부릅니다(MCP, Model Context Protocol은 연결 방식의 표준 가운데 하나입니다). 직원에게 사내 시스템 계정을 만들어 주는 것과 같습니다.

i&CP 견해GMP 관점에서 두 가지를 기억하면 됩니다. 첫째, 할 수 있는 일이 많은 만큼, 연결 범위가 곧 접근 권한입니다. 연결된 저장소의 자료까지 스스로 찾아 읽을 수 있기 때문입니다. 둘째, "통과했습니다"라는 자가 보고만으로는 검증 증거가 되지 않습니다. 숙제를 낸 학생이 자기 숙제를 채점한 것과 같습니다. 대상 버전, 시험 절차나 스크립트, 기대값과 실제값이 식별되는 기록이 남아야 사람이 검토하고 채택할 수 있습니다.

3하네스 — 말에 씌우는 마구

하네스(harness)는 본래 말에 씌우는 마구(馬具)입니다. 힘은 말이 내지만, 방향과 한계는 마구가 정합니다. AI에서 하네스는 모델이 일하는 작업 체계 전체를 가리킵니다. 같은 모델이라도 어떤 하네스에서 일하느냐에 따라 결과의 편차와 누락이 달라집니다.

모델 (말)힘을 낸다 — 글을 읽고, 쓰고, 판단한다

작업 규칙작업할 때마다 읽는 문서. 용어·문체·금지 행위·보고 형식
= 업무 수칙

스킬반복 업무의 절차·양식·스크립트 묶음
= AI용 표준작업지침서(SOP)와 양식

훅정해진 시점에 자동으로 도는 점검. 설정에 따라 경고하거나 실행을 막는다
= 안전 스위치. 실제로 막는지 시험한다

권한읽기 전용, 쓸 수 있는 폴더처럼 행동 범위를 정하는 설정
= 검토자에게는 열람 권한만

검토 분리작성과 검토를 다른 역할·다른 AI가 맡는다
= 자기 글 자기 검토 금지

기록종료 코드·실행 기록·변경 이력
= "했다"가 아니라 "남았다"

하네스는 에이전트의 한 종류가 아닙니다. 이 글에서 말하는 AI 에이전트는 모델과, 그 모델을 실행하고 통제하는 하네스로 이루어진다고 볼 수 있습니다.

하네스 엔지니어링(harness engineering)은 모델은 그대로 두고, 그 주변 체계를 설계해 결과의 편차와 누락을 줄이는 일입니다. 직원을 바꾸지 않고 업무 매뉴얼, 점검표, 결재선을 갖추는 것과 같습니다. 여러 회사의 AI에 같은 결과물을 따로 검토시키는 교차 검토도 그 일부입니다. 다만 모델끼리 의견이 같다고 맞다는 증거는 아닙니다. 판정은 사람이 기초 자료와 시험 기록으로 합니다.

→ GMP 관점의 한 문장: 하네스도 관리 대상 시스템입니다. 규칙·스킬·훅이 바뀌면 결과가 바뀌므로, 버전과 변경 이력을 남깁니다.

4아이앤씨피는 이렇게 일합니다 — AI 동료

아이앤씨피(I&CP)는 제약·바이오 GMP의 데이터 완전성(Data Integrity, DI)과 컴퓨터화시스템 밸리데이션(Computerized System Validation, CSV)을 돕는 컨설팅사입니다. 저희는 위에서 설명한 하네스를 실제 업무에 씁니다. 업무마다 이름과 역할을 정한 AI 동료를 두고, 사람 팀처럼 다섯 팀으로 묶었습니다. 명부에 오른 역할은 20개이며, 이미 가동 중인 역할과 1차 완성·시범·준비 단계인 역할이 섞여 있습니다. 아래 팀장·본부장도 단계가 서로 다릅니다.

영업·제안맺음 팀장견적·계약·제안서 (1차 완성)

규제·콘텐츠·교육울림 팀장뉴스레터·영상 (가동 중)

프로젝트길잡이 팀장고객 프로젝트 일정·보고 (시범)

문서새김 팀장DI 규정·절차서·양식 (1차 완성)

지원지킴 본부장캠퍼스·AI 본사 총괄 (가동 중)

예를 들어 이 뉴스레터는 이렇게 만들어집니다.

여울 · 규제 동향 수집→울림 · 원고→서로 다른 AI 두 곳 · 교차 검토→바름 · 표기 검토→대표 · 승인과 게시

일하는 원칙은 세 가지입니다.

결과물은 서로 다른 AI 두 곳의 검토를 거치도록 정해 두었습니다. 지적과 반영 여부를 검토표로 남깁니다.
게시·발송·계약은 사람이 마지막 단추를 누릅니다. AI는 준비까지만 합니다.
작업 기록을 남깁니다. 누가, 무엇을, 어떤 검토를 거쳐 만들었는지 업무 보드에 적습니다.

i&CP 견해AI 동료를 둔다고 사람의 책임이 줄지는 않습니다. 오히려 무엇을 맡기고 어디서 멈추게 할지 정하는 일이 늘어납니다. 이 글도 원고, 두 곳의 교차 검토, 표기 검토를 거쳐 대표가 승인한 뒤에 올립니다.

5온새미로 캠퍼스

AI 동료가 일하고, 데이터 완전성과 품질위험관리를 함께 배우는 3D 캠퍼스입니다. 건물마다 DI 프로세스, 컴퓨터화시스템 밸리데이션, SOP, 위험평가, 점검기록(Audit Trail), 법령과 용어를 나눠 담았고, 식약처 법령·안내서와 용어를 식약처 표기에 맞춰 정리했습니다. 고객사별 프로젝트 공간은 권한을 받은 담당자만 들어가는 방식으로 준비하고 있습니다.

온새미로 캠퍼스 전경 — 호숫가 언덕에 건물들이 모여 있는 3D 캠퍼스 — 온새미로 캠퍼스 공개 소개 화면 · campus.incpcorp.com

맺으며

AI를 잘 쓰려면 모델 성능만큼 일을 맡기는 체계가 중요합니다. GMP가 사람에게 요구해 온 절차, 교육, 검토, 기록의 원칙을 AI 활용에도 똑같이 적용합니다. 말이 맞아야 그 원칙을 함께 이야기할 수 있습니다.

AI가 무엇을 할 수 있는지보다, 어디서 멈추게 할지를 먼저 정하십시오

다음 편 · AI 특집 2부
GMP 현장에 AI를 도입할 때 알아야 할 7가지 — AI로 만든 시스템과 AI가 들어간 시스템, 의도된 용도, 규제 지형, 데이터 완전성과의 연결, 그리고 용어 O·X 퀴즈.

지금 쓰고 있는 AI 도구 하나를 고른다면, 그 도구가 어디까지 연결돼 있고 무엇을 할 수 있는지 한 문장으로 적을 수 있습니까?

의견과 문의: jmkim@incpcorp.com

ENGLISH

Before handing work to AI, agree on the words

This two-part special starts with vocabulary. Part 1 explains 18 terms from the AI glossary that i&CP uses in its training for pharmaceutical companies, each read from a GMP point of view, and shows how i&CP itself works with AI. Part 2 takes these ideas to the GMP floor.

Six basics

A large language model picks the most plausible next words; plausible is not the same as correct. Generative AI writes drafts; an AI draft must be reviewed and approved under the record requirements and procedures of the task. The prompt and the context decide the result, and the context window limits how much the model can read at once. Hallucination looks plausible, which makes it hard to notice. Non-determinism means the same request can give different answers, so one run proves little.

From chatbot to agent

An agent does not just answer: it breaks a goal into steps, reads files, runs tools and reports back. Two points matter for GMP. The scope of its connections is its access right. And an agent's own report that "all tests passed" is not evidence; only a record that identifies the target version, the test procedure or script, and the expected and actual results can be reviewed and accepted by a person.

Harness and harness engineering

A harness is not a kind of agent: the AI agents discussed here can be understood as a model plus a harness that runs and controls it. The harness is the working system around the model: rules, skills, hooks, permissions, separated review and records. Harness engineering keeps the model as it is and designs that system to reduce variation and omissions. Agreement between models in a cross review is not proof; people decide on source data and test records. The harness itself is a managed system: when it changes, results change.

How i&CP works

i&CP is a consultancy for data integrity and computerized system validation in pharmaceutical and biotech GMP. We work with named AI colleagues grouped into five teams; some roles are in operation, others are at first-version, pilot or preparation stage. Outputs are set to go through review by two different AI systems, people press the final button for publishing, sending and contracts, and work records are kept. Our 3D learning space, the Onsaemiro Campus, gathers DI topics building by building, with client project spaces being prepared for authorized users only: campus.incpcorp.com.

Pick one AI tool you use today. Can you state in one sentence what it is connected to and what it is allowed to do?

— i&CP | Integrity & Compliance

용어 설명

GMP — 의약품 제조 및 품질관리기준(Good Manufacturing Practice).
MCP(Model Context Protocol) — AI가 외부 도구·자료에 연결하는 방식의 표준 가운데 하나.
점검기록(audit trail) — 누가·언제·무엇을·왜 바꿨는지 시스템이 자동으로 남기고, 변경 전 값도 보존하는 기록. 식약처 안내서 공식 표기는 "점검기록"입니다.
컴퓨터화시스템 밸리데이션(CSV) — 컴퓨터화시스템이 의도된 용도에 맞게 일관되게 동작함을 문서로 입증하는 활동.

참고 자료

아이앤씨피, 「AI 적용과 밸리데이션」 교육 AI 용어집(교육용 풀이, 2026.11) — 이번 호의 용어 풀이는 이 용어집을 줄여 옮긴 것입니다.
DI Forum Newsletter Vol.07(No.261024, 2026.10.24), 「AI가 틀렸을 때, 무엇이 그 오류를 막습니까」 — 규제 동향과 AI 시스템 사전 점검표 20항목.

※ 용어 풀이와 비유는 아이앤씨피의 교육용 설명이며 규제기관의 정의나 공식 번역이 아닙니다. AI 동료의 이름·역할은 아이앤씨피 내부 업무 체계이며, 특정 AI 제품을 권하는 것이 아닙니다. 이 글은 AI의 도움을 받아 작성했고, 사람이 검토·승인한 뒤 게시합니다.