Hassabis: AGI może pojawić się w ciągu kilku lat

Demis Hassabis, laureat Nagrody Nobla w dziedzinie chemii i szef Google DeepMind, powiedział w wystąpieniu, że ogólna sztuczna inteligencja (AGI) może pojawić się w ciągu kilku lat i stwarzać ryzyko utraty kontroli nad systemami informatycznymi.

W jego ocenie wpływ AGI może być nawet dziesięciokrotnie większy i przebiegać dziesięć razy szybciej niż rewolucja przemysłowa. Wymienił potencjalne korzyści: przyspieszenie odkryć leków, rozwój czystych źródeł energii oraz tworzenie zaawansowanych materiałów, co zdaniem Hassabisa może ograniczyć znaczenie braków zasobów.

W odpowiedzi na ryzyka zaproponował powołanie międzynarodowego organu regulacyjnego, w którym współpracowałyby rządy, firmy technologiczne i niezależni eksperci. Nowe modele AI miałyby przechodzić proces certyfikacji obejmujący symulacje i testy sprawdzające, czy systemy potrafią ominąć zabezpieczenia lub ułatwić stworzenie broni biologicznej.

Organ certyfikujący miałby możliwość wymuszenia spowolnienia prac nad modelem, jeśli testy wykryją istotne zagrożenia przed jego pełnym wdrożeniem.

Hassabis zwrócił uwagę, że tempo rozwoju napędza rywalizacja między firmami, co może sprawić, że technologia wyprzedzi nasze zrozumienie jej działania. W jego słowach: „Nikt nie wie na pewno, co się wydarzy”.

Działania DeepMind pod kierownictwem Hassabisa obejmują rozwój zaawansowanych modeli, m.in. projektu Gato. Proponowane procedury certyfikacyjne mają opierać się na testach funkcjonalnych i scenariuszach użycia, które wykryją możliwe sposoby nadużyć przed udostępnieniem technologii szerszemu gronu.

Wystąpienie Hassabisa dotyczy procesu tworzenia zasad i nadzoru nad rozwojem AI oraz sposobów oceny ryzyk związanych z wprowadzeniem AGI.