무슨 일이 일어났나요?
MediaNama는 구자라트 고등법원이 주 세무관이 존재하지 않거나 잘못 인용되었거나 관련이 없는 AI 생성 판례법에만 의존했다는 사실을 확인한 후 원인 통지, GST 취소 명령, 철회 기각 및 항소 명령을 기각했다고 보고했습니다. 법원은 국세청에 납세자의 변호를 고려한 후 새로운 통지서를 발행하고 합리적인 명령을 통과하도록 명령했습니다.
MediaNama는 2026년 8월 20일에 전달된 구자라트 고등 법원 판결이 원인 통지, GST 취소 명령, 취소 거부 및 항소 명령에 대한 Faiz Enterprise의 이의 제기에서 비롯되었다고 보고합니다. 보고서에 따르면 분쟁은 주 세무관이 인용한 존재하지 않거나 잘못 인용되었거나 관련이 없는 법적 판결을 중심으로 이루어졌습니다. 법원은 해당 경찰관의 사과와 부서의 대응을 검토하기 전인 8월 13일 처음으로 문제를 지적했다. 제공된 기사는 판결 사본에 연결되어 있지만 판결 자체는 이 평가를 위해 독립적으로 검토되지 않았습니다.
MediaNama에 따르면 법원은 해당 경찰관이 AI가 생성한 판례법에 전적으로 의존했다고 말했습니다. 데방 아르빈드쿠마르 야다브(Devang Arvindkumar Yadav)라는 경찰관은 AI를 사용해 명령 초안을 작성하고 판결을 인용한 사실을 인정하면서도 경험 부족으로 인해 오류가 발생했다고 밝혔습니다. 그는 무조건 사과했으며 8월 18일 AI 교육 프로그램에 참석했다고 말했습니다. MediaNama는 법원이 세금 소송의 4단계 문제를 모두 기각하고 당국에 새로운 통지를 발행하고 청원인의 변호를 고려하고 합리적인 명령을 통과하도록 요구했다고 보고했습니다.
MediaNama는 또한 법원이 소환 문제를 제기한 후 구자라트 주 세무부가 8월 18일 AI 지침을 발표했다고 보도했습니다. 보고된 지침에 따르면 경찰관은 주요 공식 출처를 통해 AI 식별 법률 및 사례를 확인하고, 인용 및 현재 법적 상태를 확인하고, AI가 법적 추론을 해석할 때 원본 구절을 찾아 해당 구절을 그대로 재현해야 합니다.
또한 공무원은 납세자가 인용한 판결을 고려하고, 관련성을 거부하는 이유를 기록하고, AI를 법적 및 사실적 판단의 대체물로 취급하기보다는 인간의 감독을 유지하고 독립적인 추론을 적용하도록 요구합니다. 기사에는 법원이 엄격한 준수를 지시했으며 위반 시 경멸에 해당할 것이라고 경고했다고 나와 있습니다.
왜 중요한가요?
이 사례는 확인되지 않은 AI 생성 법적 인용이 세금, 사업권 및 행정 결정에 어떻게 직접적인 영향을 미칠 수 있는지 보여줍니다. 이는 또한 구체적인 책임 대응을 보여줍니다. 독립적인 소스 검증, 인적 감독 및 문서화된 추론은 이제 보고된 구자라트 세금 맥락에서 엄격한 부서 지침을 따릅니다.
실질적인 의미는 AI 도구가 관공서에서 단독으로 사용됐다는 점은 아니다. MediaNama의 설명은 생성된 법적 권한이 존재하는지 확인하는 데 필요한 확인 없이 수락되고, 정확하게 인용되고, 분쟁에 적용되었다고 주장되는 결정을 설명합니다. 소환은 GST 명령의 일부였기 때문에 보고된 실패는 기업의 세금 상태, 운영 능력 및 행정적 구제 수단에 대한 접근에 영향을 미칠 수 있는 프로세스와 연결되어 있었습니다.
보고된 구제책도 중요합니다. MediaNama에 따르면 고등법원은 결함이 있는 인용을 무해한 초안 결함으로 간주하지 않았습니다. 이는 통지 및 후속 명령을 무시하고 프로세스를 다시 시작하도록 요구했습니다. 이는 출처 확인을 실질적인 행정적 신뢰성의 일부로 만듭니다. 결정의 법적 추론이 위치를 찾을 수 없거나 인용된 제안을 지지하지 않는 당국에 의존하는 경우 결정은 절차상 취약할 수 있습니다.
MediaNama는 구자라트 판결을 더 넓은 인도의 법적 맥락에 두고 있습니다. 보고서에 따르면 지난 7월 대법원은 재판소가 결함 있는 AI 인용문 6개에 의존한 후 NCLT 및 NCLAT 명령을 기각했으며, 델리 고등법원은 존재하지 않는 판결 6개가 포함된 조세 항소 명령을 기각했습니다. 이 기사는 또한 인용문을 확인하지 않고 AI 사용을 인정한 잠무 카슈미르 재판 법원 판사에 대해서도 언급합니다. 이러한 예는 MediaNama에서 보고되었으며 여기에서 독립적으로 확인되지는 않지만, 공공 기관이 AI 지원 법률 연구를 위해 비공식적인 경고가 아닌 명시적인 절차가 필요한 이유를 함께 나타냅니다.
MediaNama가 설명하는 규칙은 책임에 대한 상대적으로 구체적인 모델을 제공합니다. 그들은 결정에 서명하거나 발행하는 공무원에게 책임을 부여하고, 주요 자료에 대한 검증을 요구하며, 납세자의 당국이 거부되면 설명을 요구합니다. 이러한 요구 사항은 AI 시스템이 조작된 인용 생성을 중단한다는 것을 입증하지 않습니다. 생성된 자료가 법적 구속력이 있는 결과에 영향을 미치기 전에 인적 검토 의무를 설정합니다. 소식통은 규칙이 얼마나 광범위하게 시행되는지, 경찰관이 규정 준수를 어떻게 문서화하는지 또는 인도의 다른 세금 및 사법 기관에 유사한 보호 장치가 존재하는지 여부에 대한 증거를 제공하지 않습니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
Why can ethical evaluation not be reduced to one model score?
다음에 무엇을 볼 것인가
당면한 질문은 새로운 GST 절차가 새로운 검증 요건에 따라 수행되는지 여부와 납세자가 실질적으로 합리적인 결정을 받는지 여부입니다. 보다 광범위하게, 공공 기관과 법원은 생성된 자료가 법적 결과적 결정에 영향을 미칠 때 AI 사용을 어떻게 기록, 확인 및 검토해야 하는지 명확히 할 수 있습니다.
다음 즉각적인 발전은 Faiz Enterprise 문제에 대해 명령된 새로운 판결입니다. MediaNama는 부서가 새로운 통지를 발행하고 납세자의 방어를 고려하며 합리적인 명령을 제공해야 한다고 보고합니다. 소식통은 해당 통지가 발행되었는지, 납세자가 응답했는지, 최종 세금 결과가 어떻게 될지는 밝히지 않습니다. 이러한 사실은 보고된 구제책이 단지 절차적 재시작이 아닌 올바른 결정을 내리는지 여부를 결정합니다.
관찰자들은 또한 구자라트 부서가 8월 18일 지침을 어떻게 운영하는지 관찰해야 합니다. 중요한 세부 사항에는 경찰관이 확인한 공식 출처를 보존해야 하는지, 어떤 구절이 AI의 도움을 받았는지 식별하고, 인용 검색을 기록하고, 명령을 내리기 전에 검토를 받아야 하는지 여부가 포함됩니다. MediaNama는 요구 사항을 폭넓게 보고하지만 규정 준수 감사, 처벌 프로세스 또는 이러한 점검을 수행하기 위한 기술 시스템을 설명하지 않습니다. 규칙의 효율성은 구현 세부 사항에 따라 달라집니다.
또 다른 질문은 법원이나 정부 부서가 이러한 요구 사항을 AI 지원 법률 업무에 대한 더 광범위한 표준으로 전환하는지 여부입니다. 소식통은 결함이 있거나 확인되지 않은 AI 인용과 관련된 여러 인도 사례를 지적하지만 전국적인 규칙이나 전체 사건 수를 설정하지는 않습니다. 향후 판결, 부서별 회보 또는 징계 절차를 통해 책임이 개인 임원에게만 있는지, 감독자와 기관에도 있는지, 생성된 권한이 검토 없이 공식적인 결정을 내릴 수 있는 프로세스에 있는지 여부를 명확히 할 수 있습니다.
대중은 또한 인용 검증과 일반적인 AI 신뢰성을 구별해야 합니다. 판결이 존재하는지 확인하고 명령이 주장하는 바가 무엇인지 확인하는 것은 그 자체로 법적 결론, 사실 기록 또는 결정의 공정성을 입증하지는 않습니다. MediaNama의 보고서는 기본 AI 시스템이 테스트되었다는 증거를 제공하지 않으며, 사용된 도구를 식별하고, 그러한 오류가 얼마나 자주 발생하는지 정량화하거나, 경찰관이 인용된 당국을 넘어 생성된 텍스트에 의존했는지 여부를 확인하지 않습니다. 이러한 미지의 요인은 세무 행정에서 AI의 광범위한 성과에 대해 결론을 내릴 수 있는 내용을 제한합니다.