Anthropic chce współtworzyć prawo w USA i przedstawia swój projekt ustawy o AI
Firma stojąca za rodziną modeli Claude opracowała własny projekt ustawy o sztucznej inteligencji, której zapisy mają być uruchomione na wypadek wystąpienia wysokiego ryzyka katastrofy.
Branża technologiczna z reguły jest przeciwna regulacjom, bo według bossów z Doliny Krzemowej ograniczają one innowacje i hamują rozwój, z którego przecież wszyscy korzystamy i dzięki nim świat ma szansę stać się lepszym miejscem. Sytuacja na ta ogół zmienia się, gdy same korporacje mogą współtworzyć prawo. Wtedy okazuje się, że regulacje są potrzebne, ale najlepiej, żeby to szefowie big techów ustalili zasady, bo tylko oni wiedzą, jak to wszystko wygląda od podszewki. Technologia jest w końcu zbyt skomplikowana, by mogli ją zrozumieć posłowie i senatorowie. Być może właśnie mamy do czynienia ze scenariuszem, który pokrótce opisałem, bowiem jak donosi renomowany serwis Politico, Anthropic ma projekt ustawy o AI.
Ustawa od Anthropic na wypadek katastrofy, która może kosztować co najmniej 50 ofiar w ludziach lub ponad miliard dolarów start
Projekt ustawy dotyczy zagrożeń jakie niesie za sobą dynamiczny rozwój modeli AI. Sami szefowie firm technologicznych od tygodni ostrzegają, że rozwijane przez nich LLMy i inne narzędzia sztucznej inteligencji osiągają niewidziany do tej poziom umiejętności, a to może przynieść niewyobrażalne skutki. Niektórzy przepowiadają nawet unicestwienie naszej cywilizacji. Jednocześnie wyścig w branży trwa, OpenAI i Anthropic gorączkowo przygotowują się do debiutów giełdowych, które mają być największe w historii, a szef Nvidii przekonuje, że branża AI nie potrzebuje żadnych regulacji i nowego prawa, bo bezpieczeństwo to kwestia do rozwiązania przez inżynierów, a nie prawników. I komu to wierzyć?
Jak się właśnie dowiadujemy, Anthropic ma nadzieję, że projekt ustawy, nad którym firma pracuje zostanie przyjęty przez amerykański Kongres. Zapisy nowego prawa precyzują, jakie mają zostać podjęte działania, jeśli wystąpi przewidywalne i nieuchronne ryzyko, że więcej niż 50 osobom będzie grozić śmierć, lub jeśli szkody materialne, które wystąpią w wyniku zmaterializowania się tego ryzyka przekroczą miliard dolarów. Jak sprecyzowano, owe zagrożenie katastrofą musi wynikać z wytworzenia lub uwolnienia broni biologicznej, wymknięcia się modelu spod kontroli jego twórcy lub cyberataku. To, czy grozi nam tego rodzaju incydent, mieliby ocenić niezależni eksperci, zarejestrowani w Departamencie Handlu Stanów Zjednoczonych.
Co jednak kontrowersyjne, nic nie stoi na przeszkodzie, by niezależni eksperci byli na liście płac firm takich jak Anthropic. Producent modelu Claude zaznacza jednak w swoim projekcie, że tego typu sytuacja mogłaby mieć miejsce tylko wtedy, gdy wynagrodzenie tych osób nie będzie uzależnione od wyników stawianych przez nich diagnoz i ewentualnego podnoszenia alarmu bądź nie. Pytanie jakie się w tym miejscu pojawia brzmi kto i jak miałby ocenić, czy wypłata przychodząca od Anthropic nie wpływa na niezależność oceny ryzyka związanego z danym modelem tworzonym przez tę samą firmę. Gdyby jednak niekontrolowani przez Anthropic niezależni eksperci doszli do konkluzji, że mamy do czynienia z poważnym zagrożeniem, mieliby w ciągu 72 godzin poinformować o tym Departament Handlu, ten następnie ma się zwrócić do sądu w Waszyngtonie, a w kolejnym kroku sędzia mógłby wydać nakaz wstrzymania dystrybucji wadliwego modelu AI.
Zgodnie z projektem ustawy, żadna federalna agencja jak choćby FBI nie mogłaby samodzielnie zdecydować o wstrzymaniu publikacji któregoś z rozwiązań AI wypuszczonych przez Anthropic, OpenAI czy innego gracza na tym rynku. Straszenie opinii publicznej możliwością zagłady całej planety może być sprytną zagrywką, która ma zwrócić uwagę na bardziej realny problem, a mianowicie samowolne hakowanie systemów i stron internetowych przez modele, które uciekają z laboratoriów. Firmy takie jak Anthropic zdają sobie najwyraźniej sprawę z faktu, że takich incydentów będzie coraz więcej, a każde tego typu wydarzenie wzbudza negatywne emocje wśród potencjalnych klientów, zniechęca ludzi do korzystania z modeli oraz psuje wizerunek branży. Ostatecznie dla przeciętego Smitha czy Kowalskiego nie ma większego znaczenia, czy włamu dokonał model od Sama Altmana czy Dario Amodei. Sam pomysł powołania ciała, które monitorowałoby rozwój modeli i alarmowało rząd o potencjalnym zagrożeniu, jest dobry i godny pochwały, ale to nie mogą być ludzie odbierający pensje od firm, którym mają patrzeć na ręce.
