|
최근 어떤 조직에서든 가장 큰 화두가 되는 것은 'AI'일 것이다. 특히 자연어 기반의 질문을 던지면 방대한 지식을 빠르게 정리해 결과물을 내놓는 '생성형 AI'의 등장은 직무의 경계 없이 누구나 새로운 가치를 만들어낼 수 있는 환경을 마련했다. 그러나 생성형 AI가 무조건 좋은 답변을 주는 것은 아니다. 질문에 따라 결과물은 천차만별로 달라진다. AI에게 좋은 답변을 유도하는 것이 곧 생산성이자 경쟁력으로 이어지는 시대가 된 지금, 국내 1호 프롬프트 엔지니어인 강수진 더프롬프트컴퍼니 대표를 만나 '좋은 질문'에 대해 물었다.
.jpg) 인문학과 기술의 접목이 만드는 시너지생성형 AI의 등장은 업종과 용도를 불문하고 폭넓은 변화를 불러왔다. 이 과정에서 AI 답변의 정확도를 높이는 질문법인 '프롬프트Prompt' 또한 크게 주목받고 있다. 이에 미국 엔트로픽Anthropic이 '프롬프트 엔지니어'를 최초로 채용한 데 이어 국내에서는 뤼튼이 최초로 프롬프트 엔지니어 채용에 나서기도 했다. 이러한 흐름 속에서 대화분석학을 전공한 강수진 대표는 인문학을 기술과 접목했을 때 발휘될 시너지에 주목해프롬프트 엔지니어라는 직업에 관심을 갖게 됐다. 이후 국내 1호 프롬프트 엔지니어로 첫발을 내디뎠으며, 각 모델의 성향과 AI로 도출하고자 하는 목적 등을 파악해 특정 문제를 해결하기 위한 자연어 대화 메커니즘을 설계하는 역할을 수행해 왔다. "생성형 AI를 통해 코딩에 대한 지식이 없어도 도메인의 한계 없이 새로운 가치를 만들 수 있게 됐고, 그 시작점은 '자연어'였습니다. 그러나 일상 대화와 AI와의 대화법은 전혀 다릅니다. 따라서 문제를 파악하고, 이를 해결하기 위한 질문을 설계하는 역량이 중요하며, 이 역량에 따라 AI를 활용해 새로운 가치를 만들어내는 수준이 달라질 것입니다." 프롬프트 엔지니어로서 커리어를 개척해 나간 강 대표는 이후 프롬프트 엔지니어링을 중심으로 기업 컨설팅 및 교육을 수행하는 '더프롬프트컴퍼니'를 창업해 이끌어가고 있다. 다양한 업종의 기업을 대상으로 저비용으로 고품질을 유지하거나, 답변 수준의 정확도를 개선하고 속도를 최적화하는 등의 프롬프트 구조화 방안을 제공해 왔다. 이를 위해 강 대표는 기업의 문제 진단부터 신중히 접근하고 있으며, 프롬프트 설계를 넘어 이를 어떻게 자산화할 것인지에 대한 해결책까지 함께 찾아나가고 있다. 더불어 기업의 리더, 실무자 등을 대상으로 프롬프트의 중요성과 개념에 대해 강연을 펼치며 기업 현장의 AI 활용도를 극대화하는 역할을 맡고 있다. "자연어 기반의 생성형 AI는 전공자와는 다른 관점에서 던지는 질문이 오히려 새로운 가치를 만들어낼 수 있는 시대를 열었습니다. 실제로 처음에는 비개발자가 AI에 대해 컨설팅하는 것에 의구심을 가졌던 개발자들도 프롬프트 구조화를 통한 문제 해결을 경험한 후, 프롬프트의 중요성을 깨닫기 시작했죠. 이를 통해 '프롬프트 엔지니어링'이 특정 전공자만의 영역이 아니라는 점을 확인하기도 했습니다." AI가 좋아하는 대화 구조를 설계하라 생성형 AI를 통한 업무 효율화를 시도하는 사례가 증가하고 있지만, 목적과 전혀 다른 답을 내놓거나, 심지어 사실과는 다른 답변을 하는 할루시네이션Hallucination 현상이 발생하는 경우 또한 많다. 이에 대해 강수진 대표는 "질문의 작은 차이가 결과물의 정확도를 결정 짓는다"고 강조한다. 특히 생성형 AI가 이해하기 좋은 구조의 문장이 결과물의 질을 끌어올린다. 예를 들어 주요 생성형 AI 모델들은 미국에서 개발된 경우가 많아 한국어 특유의 간접적이고 맥락 중심적인 표현보다는 본론부터 명확하게 전달하는 두괄식 서술이 결과를 얻는 데 도움이 될 수 있다. 또한 원하는 결과와 방향을 구체적으로 제시할수록 정확도가 높을 가능성이 크다. 따라서 AI가 내놓은 결과에 대해 어느 부분이 만족스럽고, 만족스럽지 않은지 구체적으로 피드백하고 이를 다음 질문에 반영한다면, 더욱 적합한 답변을 이끌어낼 수 있다. 무엇보다 AI의 할루시네이션을 방지하기 위해서는 질문자부터 '추측성 문장'을 지양해야 한다. 실제로 한 연구에서는 직설적인 대화 문화를 지닌 영어나 라틴어로 질문할 경우 답변의 정확도가 높고, 예의를 중시해 돌려 말하는 대화 방식이 널리 퍼져있는 한국어나 일본어로 질문할 때는 정확도가 낮아지는 결과가 도출된 바 있다. 질문의 전제가 불명확하거나 추측을 포함할 경우 AI의 답변에도 불확실성이 커질 수 있다는 의미다. 이에 더해 '확실하지 않은 내용은 추측하지 말 것' '근거가 없는 경우 모른다고 답할 것' 등 답변의 기준을 제시하는 것도 할루시네이션을 줄이는 데 도움이 될 수 있다. "생성형 AI가 잘못된 답변을 내놓았다면 질문의 방식부터 점검해볼 필요가 있습니다. AI가 보편화된 답만을 제시해 그 한계를 넘고 싶다면 질문 또한 익숙한 표현보다는 새로운 단어로 문장을 구성하는 것이 좋겠죠. 답변에 오류가 발생했다면 질문이 서론-본론-결론의 구조를 갖추고 있는지도 살펴봐야 하고요. AI는 인풋만큼의 아웃풋을 생성한다는 점을 꼭 기억해야 합니다." 프롬프트를 자산화하는 것이 조직의 과제 생성형 AI를 통해 업무 효율성을 높인 우수 사례가 늘어나고 있지만, 아직도 대부분의 조직은 우수한 개인이 프롬프트를 제작해 자신의 업무를 효율화하는 수준에 머물고 있다. 강수진 대표는 잘 설계된 프롬프트가 개인의 소유물로 머물어 조직에 공유되지 않는다면, 문제가 발생할 때마다 프롬프트를 다시 설계해야 하며, 결국 조직 차원의 생산성 향상으로 이어지기 어렵다고 지적한다. 따라서 조직에서는 프롬프트를 조직의 자산으로 남길 수 있도록 구성원들이 함께 프롬프트를 구축하고 공유하며 개선할 수 있는 환경을 마련해야 한다. 프롬프트를 템플릿화해 구성원들이 필요에 따라 활용하고, 각자의 경험을 반영해 지속적으로 고도화하는 것이 대표적인 방안이다. 이제 조직은 문제를 함께 정의하고 서로의 프롬프트 경험을 공유하며 조직 차원의 지식으로 축적해 나가는 환경을 구축해야 한다. 이렇듯 생성형 AI는 우리의 삶을 빠르게 변화시키는 동시에 새로운 과제도 끊임없이 만들어내고 있다. 강수진 대표는 AI 활용 과정에서 마주하는 어려움을 해결할 방법을 찾고자 앞으로도 새로운 연구와 시도를 이어갈 계획이다. "AI의 빠른 발전으로 다양한 스킬과 직무, 직업의 수명이 짧아지고 있습니다. 불과 두 달 전에 분석한 결과를 지금 그대로 사용할 수 없을 정도죠. 이러한 변화에 대응하기 위해 AI 도구를 직접 활용하며 다양한 시행착오를 겪어보고, 그 경험을 바탕으로 가이드를 마련해 우리 사회의 AI 활용 효율을 높이는 데 기여하고자 합니다." |
|
|
