Co się stało
MediaNama donosi, że Sąd Najwyższy stanu Gujarat uchylił zawiadomienie z podaniem przyczyny, nakaz anulowania podatku GST, odrzucenie unieważnienia i nakaz apelacyjny po stwierdzeniu, że stanowy urzędnik podatkowy opierał się wyłącznie na nieistniejącym, błędnie zacytowanym lub nieistotnym orzecznictwie wygenerowanym przez sztuczną inteligencję. Sąd nakazał wydziałowi wydanie nowego zawiadomienia i wydanie uzasadnionego postanowienia po rozważeniu obrony podatnika.
MediaNama podaje, że wyrok Sądu Najwyższego stanu Gujarat wydany 20 sierpnia 2026 r. wynikał ze skargi Faiz Enterprise na powiadomienie z powodów pokazowych, nakaz anulowania podatku GST, odrzucenie unieważnienia oraz postanowienie apelacyjne. Według raportu spór koncentrował się na orzeczeniach prawnych przytoczonych przez państwowego urzędnika podatkowego, które nie istniały, zostały błędnie zacytowane lub nieistotne. Sąd po raz pierwszy zasygnalizował problem 13 sierpnia, zanim zapoznał się z przeprosinami funkcjonariusza i odpowiedzią wydziału. Dostarczony artykuł zawiera odnośnik do kopii wyroku, lecz sam wyrok nie został poddany niezależnemu przeglądowi na potrzeby tej oceny.
Według MediaNama sąd stwierdził, że funkcjonariusz opierał się wyłącznie na orzecznictwie generowanym przez sztuczną inteligencję. Funkcjonariusz zidentyfikowany jako Devang Arvindkumar Yadav podobno przyznał się do korzystania ze sztucznej inteligencji przy sporządzaniu nakazów i cytowaniu wyroków, przypisując błąd brakowi doświadczenia. Złożył bezwarunkowe przeprosiny i oświadczył, że 18 sierpnia wziął udział w programie szkoleniowym dotyczącym sztucznej inteligencji. MediaNama podaje, że następnie sąd unieważnił wszystkie cztery kwestionowane etapy postępowania podatkowego i zażądał od organu wydania nowego zawiadomienia, rozpatrzenia obrony składającego petycję i wydania uzasadnionego postanowienia.
MediaNama podaje również, że Departament Podatkowy stanu Gujarat wydał instrukcje AI 18 sierpnia, po podniesieniu przez sąd kwestii cytowania. Zgłoszone instrukcje wymagają od funkcjonariuszy sprawdzenia przepisów i spraw zidentyfikowanych przez sztuczną inteligencję w głównych oficjalnych źródłach, sprawdzenia cytatów i aktualnego stanu prawnego, zlokalizowania oryginalnych fragmentów, gdy sztuczna inteligencja parafrazuje rozumowanie prawne, oraz dosłownego odtworzenia tych fragmentów.
Wymagają również od funkcjonariuszy uwzględniania orzeczeń cytowanych przez podatników, rejestrowania powodów odrzucenia ich znaczenia, sprawowania nadzoru ze strony człowieka i stosowania niezależnego rozumowania, a nie traktowania sztucznej inteligencji jako substytutu oceny prawnej i faktycznej. W artykule napisano, że sąd nakazał ścisłe przestrzeganie prawa i ostrzegł, że naruszenia będą równoznaczne z pogardą.
Szczegóły źródła: medianama.com ↗
Dlaczego to ma znaczenie
Przypadek pokazuje, jak niezweryfikowane cytaty prawne wygenerowane przez sztuczną inteligencję mogą bezpośrednio wpływać na podatki, prawa biznesowe i decyzje administracyjne. Ilustruje to również konkretną reakcję w zakresie odpowiedzialności: weryfikacja niezależnego źródła, nadzór człowieka i udokumentowane rozumowanie podlegają obecnie ścisłym instrukcjom departamentalnym w raportowanym kontekście podatkowym stanu Gujarat.
Praktyczne znaczenie nie polega na tym, że narzędzie AI zostało użyte samo w urzędzie państwowym. Relacja MediaNamy opisuje decyzję, w której rzekomo zaakceptowano wygenerowane pełnomocnictwa prawne bez weryfikacji niezbędnej do ustalenia ich istnienia, a następnie prawidłowo je zacytowano i zastosowano w sporze. Ponieważ cytaty stanowiły część nakazu GST, zgłoszone niepowodzenie było powiązane z procesem, który może mieć wpływ na sytuację podatkową firmy, zdolność do prowadzenia działalności i dostęp do administracyjnych środków odwoławczych.
Zgłoszone lekarstwo również ma znaczenie. Zdaniem MediaNamy Sąd Najwyższy nie potraktował błędnych cytatów jako nieszkodliwej wady redakcyjnej. Uchylił zawiadomienie i kolejne zarządzenia i zażądał rozpoczęcia procesu od nowa. To sprawia, że sprawdzanie źródeł stanowi część merytorycznej wiarygodności administracyjnej: decyzja może być podatna na zagrożenia proceduralne, gdy jej uzasadnienie prawne zależy od organów, których nie można zlokalizować lub które nie popierają twierdzenia, w związku z którym zostały powołane.
MediaNama umieszcza decyzję z Gujarat w szerszym indyjskim kontekście prawnym. Donosi, że w lipcu Sąd Najwyższy uchylił orzeczenia NCLT i NCLAT po tym, jak trybunały oparły się na sześciu wadliwych cytatach z AI, podczas gdy Wysoki Trybunał w Delhi uchylił orzeczenie podatkowe zawierające sześć nieistniejących wyroków. W artykule odniesiono się także do sędziego sądu pierwszej instancji w Dżammu i Kaszmirze, który przyznał się do używania sztucznej inteligencji bez sprawdzania cytatów. Przykłady te zostały zgłoszone przez MediaNama i nie zostały tu niezależnie potwierdzone, ale łącznie wskazują, dlaczego instytucje publiczne mogą potrzebować wyraźnych procedur w zakresie badań prawnych wspomaganych przez sztuczną inteligencję, a nie nieformalnych ostrzeżeń.
Zasady opisane przez MediaNama oferują stosunkowo konkretny model odpowiedzialności. Przypisują odpowiedzialność urzędnikowi, który podpisuje lub wydaje decyzję, żądają weryfikacji z materiałem pierwotnym, a w przypadku odmowy uznania organów podatnika żądają wyjaśnień. Wymogi te nie stanowią, że systemy sztucznej inteligencji przestaną generować sfabrykowane cytaty. Ustanawiają obowiązek przeglądu przez człowieka, zanim wygenerowany materiał będzie mógł wpłynąć na prawnie wiążący wynik. Źródło nie dostarcza dowodów na temat tego, jak szeroko zasady będą egzekwowane, w jaki sposób funkcjonariusze będą dokumentować zgodność lub czy podobne zabezpieczenia istnieją w innych indyjskich organach podatkowych i sądowych.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Natychmiast pojawia się pytanie, czy nowe postępowanie w sprawie GST jest prowadzone pod nowymi wymogami weryfikacyjnymi i czy podatnik otrzyma merytorycznie uzasadnioną decyzję. Mówiąc szerzej, agencje publiczne i sądy mogą wyjaśnić, w jaki sposób należy rejestrować, sprawdzać i przeglądać wykorzystanie sztucznej inteligencji, gdy wygenerowane materiały wpływają na decyzje mające skutki prawne.
Kolejnym natychmiastowym wydarzeniem jest nowe orzeczenie zarządzone w sprawie Faiz Enterprise. MediaNama podaje, że resort musi wydać nowe zawiadomienie, rozpatrzyć obronę podatnika i wydać uzasadnione postanowienie. Źródło nie podaje, czy wydano takie zawiadomienie, czy podatnik udzielił odpowiedzi ani jaki będzie ostateczny wynik podatkowy. Fakty te zadecydują o tym, czy zgłoszony środek zaradczy doprowadzi do skorygowanej decyzji, a nie tylko do wznowienia postępowania.
Obserwatorzy powinni także obserwować, w jaki sposób departament stanu Gujarat realizuje swoje instrukcje z 18 sierpnia. Do ważnych szczegółów należy to, czy funkcjonariusze muszą zachować sprawdzone oficjalne źródła, określić, które fragmenty były wspomagane przez sztuczną inteligencję, przeszukać cytaty z dokumentów i uzyskać wgląd przed wydaniem nakazów. MediaNama opisuje wymagania w sposób ogólny, ale nie opisuje audytu zgodności, procesu karnego ani systemu technicznego przeprowadzania tych kontroli. Skuteczność zasad będzie zależeć od szczegółów wdrożenia.
Kolejnym pytaniem jest, czy sądy lub departamenty rządowe przekształcają te wymagania w szerszy standard dotyczący pracy prawnej wspomaganej przez sztuczną inteligencję. Źródło wskazuje na kilka zgłoszonych przypadków w Indiach obejmujących wadliwe lub niezweryfikowane cytaty dotyczące sztucznej inteligencji, ale nie ustanawia ogólnokrajowej zasady ani pełnej liczby incydentów. Przyszłe wyroki, okólniki wydziałowe lub postępowania dyscyplinarne mogłyby wyjaśnić, czy odpowiedzialność spoczywa wyłącznie na konkretnym funkcjonariuszu, także na organach nadzoru i instytucjach, czy też na jakimkolwiek procesie, który umożliwia wygenerowanym organom podejmowanie oficjalnych decyzji bez kontroli.
Społeczeństwo powinno także odróżnić weryfikację cytowań od ogólnej wiarygodności sztucznej inteligencji. Sprawdzenie, czy orzeczenie istnieje i stwierdza, czego domaga się postanowienie, jest konieczne, ale samo w sobie nie potwierdza wniosku prawnego, stanu faktycznego ani słuszności decyzji. Raport MediaNamy nie dostarcza dowodów na to, że podstawowy system sztucznej inteligencji został przetestowany, nie wskazuje użytego narzędzia, nie określa ilościowo częstotliwości występowania takich błędów ani nie ustala, czy funkcjonariusz polegał na wygenerowanym tekście poza cytowanymi autorytetami. Te niewiadome ograniczają wnioski na temat szerszego działania sztucznej inteligencji w administracji podatkowej.