AI 윤리원칙

제정일: 2026년 8월 19일 / 운영: 한국의정연구소 (대표 최혜리)

우리가 다루는 것

바른의정365는 지방의회 의원의 의정활동을 돕는 AI입니다.

의원이 발의하는 조례 한 줄, 심사하는 예산 한 항목은 그 지역 주민의 삶에 닿습니다. 그리고 의원이 본회의장에서 인용하는 근거 하나가 틀리면, 그것은 소프트웨어의 결함으로 끝나지 않고 그 사람이 주민에게 쌓아온 신뢰가 무너지는 일이 됩니다.

우리는 이 무게를 알고 만듭니다. 아래는 그 다짐이자, 우리가 스스로를 묶어두는 규칙입니다.

1. 최종 판단은 사람이 합니다

AI는 자료를 찾고 초안을 만들 뿐, 발의도 표결도 결재도 의원이 합니다. 우리는 AI가 의사결정을 대신하도록 설계하지 않으며, 그렇게 쓰이도록 권하지도 않습니다. 모든 생성물에 AI가 만든 것임을 표시하고, 원본 확인을 요청합니다.

자문형 산출물의 본문을 임의로 삭제하지 않습니다. 지우는 대신 확인이 필요한 문장을 표시합니다. 판단은 사람 몫이기 때문입니다.

2. 정치적으로 중립을 지킵니다

우리는 어떤 정당·정파에도 유리하게 작동하지 않습니다. 조례의 지원 대상이나 연령 범위 같은 것은 입법자의 정책 선택이지 정답이 있는 문제가 아닙니다. 우리는 그것을 교정 대상으로 삼지 않습니다.

동시에, 사실은 정당에 따라 달라질 수 없습니다. 소속 정당을 바꿔 물었을 때 사실 진술이 달라진다면 그것은 편향이 아니라 오류이며, 우리는 이를 허용치 없이 결함으로 처리합니다.

솔직히 말씀드립니다. 편향을 측정하는 체계는 아직 구축 중입니다. 2026년 11월까지 갖추는 것을 목표로 하고 있으며, 진행 상황을 이 페이지에 갱신하겠습니다.

3. 근거 없는 말을 하지 않습니다

AI는 그럴듯한 문장을 만드는 데 능하고, 그래서 없는 사실을 지어내기도 합니다. 우리는 이것을 가장 큰 위험으로 보고, 생성한 문장을 스스로 반박하게 만들었습니다.

문장을 원자 단위 주장으로 쪼개고, 조례·법령 원문에서 근거를 찾고, 근거가 없으면 고칩니다. 그 과정을 수정 전과 후로 보여드립니다.

주장 추출 → 근거 검색 → 함의 판정 → 정제의 4단계 자체 검증을 거칩니다.

4. 숫자는 AI에게 맡기지 않습니다

통계와 재정 수치는 코드가 계산하고, AI는 문장만 만듭니다.

이것은 겪고 나서 세운 원칙입니다. 2026년 7월, 데이터베이스는 한 번도 틀리지 않았는데 집계 결과를 문장으로 옮기는 단계에서 오류가 났습니다. 그래서 그 단계를 아예 분리했습니다.

생성 전 수치 관문과 생성 후 대조, 두 겹으로 막습니다.

5. 맡겨주신 정보를 밖으로 내보내지 않습니다

민원인의 개인정보와 의회의 비공개 문서는 외부 AI로 전송하지 않습니다. 자료에 등급을 매기고, 등급이 확인되지 않으면 기본적으로 차단합니다. 통과가 기본값이 아니라 차단이 기본값입니다.

민감한 자료는 외부 모델을 아예 거치지 않는 경로로만 처리합니다.

개인정보는 마스킹 후 처리하며, 위험한 배포 구성에서는 서비스가 시작되지 않도록 차단합니다.

6. 모르는 것을 아는 척하지 않습니다

품질 수치는 표본이 충분할 때만 공개합니다. 검증 사례가 적은 기능의 정확도를 숫자로 내세우면, 그 숫자는 사실보다 크게 읽힙니다. 우리는 표본이 부족한 항목의 수치를 아예 공개하지 않습니다.

우리 시스템의 한계도 함께 밝힙니다.

7. 법이 그은 선을 먼저 지킵니다

공직선거법이 금지하는 것은 시스템이 차단합니다. 판단을 사용자에게 미루지 않습니다.

AI 생성 이미지에는 법이 정한 표시를 넣고, 선거일 전 90일부터는 해당 기능을 잠급니다. 공적 재원으로 결제된 계정에서는 선거 관련 콘텐츠를 만들 수 없습니다.

8. 틀렸을 때 고치고, 고친 기록을 남깁니다

우리는 잘못을 지우지 않습니다.

평가 기록에 오류를 발견했을 때, 과거 기록을 고쳐 쓰는 대신 정정 이력을 남겼습니다. 측정 이력을 사후에 손보는 것이 더 큰 훼손이라고 판단했기 때문입니다.

사고가 나면 원인을 규명하고, 그 결과를 새로운 안전장치로 만들어 시스템에 남깁니다.

사람의 승인 없이는 AI 모델이 바뀌지 않습니다.

경영진 서약

저는 바른의정365를 만드는 사람으로서 다음을 약속합니다.

  • 하나. 위 여덟 가지 원칙을 제품의 기능보다 앞에 둡니다. 원칙과 기능이 충돌하면 기능을 포기합니다.
  • 둘. 원칙을 선언으로 남기지 않고 코드로 강제합니다. 저는 1인 기업의 대표로서 모든 역할을 겸하고 있으며, 사람의 성실함만으로는 원칙이 지켜지지 않는다는 것을 압니다. 그래서 사람이 건너뛸 수 없는 구조로 만들었습니다 — 승인 없이는 모델이 바뀌지 않고, 등급이 없는 자료는 나가지 못하며, 잘못된 설정으로는 서비스가 켜지지 않습니다.
  • 셋. 모르는 것을 모른다고 말합니다. 지금 우리는 정치적 편향을 측정하는 체계를 갖추지 못했습니다. 이 사실을 감추지 않고 공개하며, 2026년 11월까지 갖추겠습니다.
  • 넷. 외부의 검증을 구합니다. 스스로 만든 기준으로 스스로를 채점하는 것의 한계를 알기에, 국가 공인기관의 검증과 외부 데이터셋에 의한 교차 검증을 받겠습니다.
  • 다섯. 이 원칙을 반기마다 다시 검토하고, 지켜지지 않은 것이 있으면 그 사실과 조치를 공개합니다.

2026년 8월 19일
한국의정연구소 대표 최혜리

참고 기준

이 원칙은 과학기술정보통신부「사람이 중심이 되는 인공지능(AI) 윤리기준」(2020. 12. 23. 4차산업혁명위원회 의결)의 3대 기본원칙과 10대 핵심요건에 따라 수립했습니다.

문의: ceo@bareun365.kr · 검토 주기: 반기 1회(매년 6월·12월)