O przygotowaniach do dialogu poinformował Reuters, powołując się na osoby zaznajomione z rozmowami między Waszyngtonem i Pekinem.
Byłyby to pierwsze oficjalne rozmowy USA i Chin poświęcone wyłącznie bezpieczeństwu sztucznej inteligencji od rozpoczęcia drugiej kadencji Donalda Trumpa. Oba państwa prowadziły już podobny dialog w 2024 roku, kiedy delegacje spotkały się w Genewie.
Rozmowy możliwe w połowie września
Według Reutersa amerykańskiej delegacji miałby przewodniczyć sekretarz skarbu Scott Bessent.
Po stronie chińskiej rozważany jest udział wicepremiera He Lifenga lub Ding Xuexianga – jednego z najważniejszych chińskich polityków odpowiedzialnych m.in. za technologie, sztuczną inteligencję i sektor półprzewodników.
Ostateczny skład delegacji, miejsce spotkania oraz agenda nadal jednak nie zostały uzgodnione.
Co istotne, przedstawiciel Białego Domu przekazał Reutersowi, że obecnie nie ma formalnie zaplanowanego spotkania dotyczącego AI w połowie września.
Oznacza to, że rozmowy są nadal na etapie przygotowań i mogą zostać przesunięte lub zmienić formę.
AI prowadząca cyberataki jednym z głównych tematów
Waszyngton chce rozmawiać przede wszystkim o ryzyku związanym z coraz bardziej autonomicznymi systemami AI.
Jedną z propozycji jest stworzenie mechanizmu, w ramach którego amerykańskie i chińskie laboratoria sztucznej inteligencji wymieniałyby informacje dotyczące poważnych incydentów bezpieczeństwa.
Chodzi m.in. o sytuacje, w których autonomiczne agenty AI prowadzą cyberataki bez bezpośredniego nadzoru człowieka.
Temat stał się szczególnie istotny po serii incydentów pokazujących, że zaawansowane modele mogą samodzielnie wyszukiwać podatności systemów informatycznych i wykonywać złożone operacje w sieci.
USA obawiają się możliwości chińskich modeli
Amerykańska strona chce również poruszyć kwestię szybko rozwijających się chińskich modeli AI oraz ich potencjalnych możliwości prowadzenia cyberataków.
Kolejnym punktem spornym pozostaje tzw. destylacja modeli, czyli wykorzystywanie wyników generowanych przez jeden duży model do trenowania innego systemu.
Władze USA oskarżały wcześniej część chińskich firm o wykorzystywanie amerykańskich modeli w ten sposób. Chińskie przedsiębiorstwa odrzucają część tych zarzutów.
Chiny również chcą rozmawiać o bezpieczeństwie AI
Pekin w ostatnich miesiącach coraz częściej podkreśla zagrożenia związane z utratą kontroli nad bardzo zaawansowanymi systemami sztucznej inteligencji.
Prezydent Xi Jinping podczas lipcowej konferencji World AI Conference mówił o konieczności tworzenia systemów monitorowania, wczesnego ostrzegania i reagowania na zagrożenia związane z AI. Podkreślał również, że sztuczna inteligencja powinna pozostawać pod kontrolą człowieka.
Według źródeł Reutersa chińscy przedstawiciele przywiązują dużą wagę do planowanego dialogu i chcieliby, aby stał się jednym z konkretnych rezultatów trwających rozmów między Waszyngtonem i Pekinem.
Trump i Xi mają spotkać się 24 września
Rozmowy dotyczące AI mogą poprzedzić znacznie ważniejsze spotkanie polityczne.
Donald Trump i Xi Jinping mają spotkać się 24 września w Waszyngtonie. Bezpieczeństwo technologiczne, półprzewodniki i sztuczna inteligencja należą do najważniejszych obszarów rywalizacji między obiema gospodarkami.
Eksperci wskazują jednak, że pomimo ostrej konkurencji technologicznej oba państwa mają wspólny interes w stworzeniu kanału komunikacji umożliwiającego szybką wymianę informacji w przypadku poważnego incydentu z udziałem zaawansowanej AI.
Na obecnym etapie nie należy oczekiwać wspólnych, wiążących regulacji. Bardziej realnym rezultatem byłoby stworzenie mechanizmu kontaktowego i zasad informowania o szczególnie niebezpiecznych zdarzeniach.
