Sam Altman przypomina: ChatowiGPT nie można ufać jak prawnikom
60% Amerykanów używało popularnego narzędzia OpenAI w poszukiwaniu porady albo informacji. Część z nich do tego stopnia wierzy dużemu modelowi językowemu, że nie chce już zasięgnąć opinii ekspertów.
Coraz więcej osób traktuje ChatGPT jak powiernika. Internauci zwierzają się mu z problemów rodzinnych, opisują kryzysy psychiczne, pytają o porady prawne i zdrowotne. Choć rozmowa z botem może dawać poczucie anonimowości i zrozumienia, warto pamiętać, że nie zastępuje ani lekarza, ani prawnika. Co więcej, rozmowy z nim nie są objęte tajemnicą zawodową, a to niesie ze sobą konkretne ryzyko.
Zobacz wystawę Artificial Dreams w melt museum. Tę ekspozycję napędza sztuczna inteligencja!
Szef OpenAI, Sam Altman, przypomniał o tym ostatnio w podcaście This Past Weekend. Przedsiębiorstwa ostrzegł, że rozmowy prowadzone z ChatGPT mogą zostać wykorzystane jako dowód w postępowaniu sądowym. W ten sposób zwrócił uwagę na zagrożenia, jakie mogą czyhać na osoby traktujące sztuczną inteligencję jako formę terapii czy spowiedzi.
Brak tajemnicy zawodowej
– Gdy teraz rozmawiasz z terapeutą, prawnikiem albo lekarzem, obowiązuje cię zasada poufności komunikacji. Jest zagwarantowana prawnie. Ale nie ustaliliśmy jeszcze, jak to ma wyglądać, jeśli chodzi o rozmowy z ChatemGPT – przekonuje biznesmen. Dla niektórych mogło to być oczywiste, innymi takie słowa wręcz wstrząsnęły. Istnieją bowiem osoby, które traktują sztuczną inteligencję jako specjalistę od wszystkiego. W internecie nie brakuje zresztą memów opisujące tego jednego kolegę, który nie podejmie decyzji bez wcześniejszej konsultacji ze zautomatyzowanym narzędziem. Opowiedzą mu o wszystkim, nawet jeśli potem mieliby tego żałować.
@snarkymarky Like girl come on… FOR EVERYTHING??? 😭
♬ original sound – mark
ChatGPT: Prawo tylko pozornie jest domeną narzędzia
Po wypowiedzi Altmana do głosu doszli prawnicy twierdzący, że już ponad rok temu zaczęli ostrzegać przed niebezpieczeństwem pogaduszek z AI. Jessee Bundy z kancelarii Creative Counsel Law wprost mówi o bardzo powszechnej lekkomyślności. – Jeśli wklejasz umowy, zadajesz pytania prawne lub prosisz bota o strategię, nie otrzymujesz porady prawnej. Generujesz za to dowody, które można ujawnić. Brak tajemnicy adwokackiej i poufności. Kogokolwiek, kto by cię chronił – przekonuje cytowany przez portal Futurism.
Warto również przypomnieć, że żaden model sztucznej inteligencji nie ma tak dużej wiedzy jak wykwalifikowane osoby. Być może rozumie pewne mechanizmy i korzysta z informacji zapisanych w kodeksach, ale nie umie analizować i łączyć faktów. Prawnicy biorą za to uwagę nie tylko istniejące ustawy, ale również okoliczności i kontekst danej sprawy. W związku z tym nie można dziwić się temu, jeśli quasi-porada od ChatuGPT nie okaże się owocna lub wręcz przyniesie szkody. Wobec tego zarówno specjaliści, jak i sam Altman proszą o rozwagę i przemyślane działania.
