[제도] 예측 행정에 AI가 들어올 때, 판단 책임은 어디에 남나

안녕하세요, 스타트업의 성장을 IP로 지키는 윌로특허법률사무소입니다. 😊

공공 영역에 AI가 들어오는 방식이 달라지고 있습니다. 답변하는 AI에서 미리 감지하는 AI로 축이 옮겨가면, 그 결과를 누가 어떤 근거로 받아들일지가 새로운 논점이 됩니다. 이번 소식은 그 논점을 실제 사업 안에서 보여줍니다.

AI가 위험도를 제시하는 순간, 무엇이 쟁점이 되나

포티투마루는 화성특례시의 문제해결형 도시데이터플랫폼 구축 사업에 참여해 민원 분석과 예측을 담당하는 핵심 AI 기술을 지원합니다. 여기서 AI는 위험 신호와 대응 초안을 제시하고, 담당 공무원이 행정적 맥락을 반영해 최종 판단을 내립니다. 제시와 판단이 분리된 이 구조에서, 산출물의 성격을 어떻게 볼 것인지가 첫 번째 쟁점으로 남습니다. 자세한 내용은 벤처스퀘어 원문에서 확인하실 수 있습니다.

도구로 볼 것인가, 결과로 볼 것인가

한쪽에서는 AI 산출물을 참고 자료로 보는 해석이 가능합니다. 휴먼 인 더 루프(Human-in-the-loop) 방식이 적용돼 담당 공무원이 관련 정책과 현장 상황을 검토해 최종 결정을 내리는 구조이기 때문입니다.

반대로 산출물 자체에 무게를 두는 해석도 가능합니다. 화성시가 운영하는 63개 정보시스템 가운데 38개 데이터베이스를 우선 연계하고 도시 온톨로지 기반 지식그래프로 관계를 분석한다면, 그 결과물은 단순 참고를 넘는 성격을 띨 여지가 있습니다. 대표님께서 유사한 구조를 설계하신다면 이 두 해석 사이 어디에 서 있는지부터 정리해 두시는 편이 좋습니다.

판단이 필요할 때 무엇을 근거로 삼나

• 근거의 출처: 관련 규정과 행정문서를 찾아 답변의 근거로 활용하는 지능형 검색증강생성(RAG) 검색이 적용된다는 점이 하나의 기준선이 됩니다.

• 기술 구성: RAG42, 인공지능 독해 기술 MRC42, 도메인 특화 경량언어모델 LLM42를 활용해 행정 데이터에 근거한 결과를 제공하고 환각 가능성을 낮추는 계획이 밝혀져 있습니다.

• 협의 구조: 사업 과정에서 행정안전부와 NIA, 국토연구원 등 관계기관 협의체와 기술 및 데이터 활용 방안을 논의합니다.

💡 변리사 팁: AI 산출물의 권리 귀속과 책임 소재는 계약서 문언에서 갈리는 경우가 많습니다. 컨소시엄이나 공공 사업에 참여하실 때 데이터 제공 범위와 산출물 활용 조건을 초기에 문서로 남겨두시면, 이후 해석 다툼의 여지를 줄일 수 있습니다.

예측 행정이 확산될수록 유사한 구조를 제안받는 기업도 늘어날 것으로 보입니다. 대표님의 기술이 어느 층위에서 기여하는지 스스로 정의해 두는 일이 협상의 출발점이 됩니다. 🚀 다른 스타트업 소식은 Startup News에서 이어 보실 수 있습니다.

제도 활용 방향이 사업 상황에 따라 달라집니다. 검토가 필요하시면 윌로특허법률사무소로 연락 주세요.

📞 02-2038-3285 / 010-4321-5373