Stephen Hawking: ludzkość może zostać zniszczona przez AI
Deweloperzy i prawodawcy muszą skupić się na „maksymalizacji” korzyści, jakie technologia przynosi społeczeństwu
Ta treść podlega prawu autorskiemu.
Stephen Hawking ostrzegł, że sztuczna inteligencja (AI) może zniszczyć ludzkość, jeśli nie podejmiemy działań w celu uniknięcia ryzyka, jakie stwarza.
Przemawiając na tegorocznym Web Summit w Portugalii, fizyk powiedział, że oprócz korzyści, technologia niesie również zagrożenia, takie jak potężna broń autonomiczna lub nowe sposoby uciskania wielu przez nielicznych.
W cytatach zgłoszonych przez Forbes , kontynuował: Sukces w tworzeniu efektywnej sztucznej inteligencji może być największym wydarzeniem w historii naszej cywilizacji. Albo najgorsze. Po prostu nie wiemy.
Hawking zasugerował, że ludzkość może zapobiec zagrożeniu przez sztuczną inteligencję naszej egzystencji poprzez regulowanie jej rozwoju.
Być może wszyscy powinniśmy zatrzymać się na chwilę i skupić nie tylko na tym, by nasza sztuczna inteligencja była lepsza i skuteczniejsza, ale także na korzyści dla ludzkości – dodał.
Jego komentarze pojawiły się niecałe trzy miesiące po tym, jak Elon Musk, założyciel Tesli i SpaceX, powiedział, że sztuczna inteligencja jest znacznie bardziej ryzykowna niż groźba ataku nuklearnego z Korei Północnej.
Musk powiedział wcześniej panelowi polityków stanowych USA, że dopóki ludzie nie zobaczą robotów idących ulicą zabijających ludzi, nie wiedzą, jak zareagować, ponieważ wydaje się to takie eteryczne.
Hawking pochwalił ruchy w Europie mające na celu uregulowanie nowych technologii, raporty CNBC , w szczególności propozycje przedstawione przez prawodawców na początku tego roku w celu ustanowienia nowych przepisów dotyczących sztucznej inteligencji i robotyki.
Elon Musk mówi, że sztuczna inteligencja jest bardziej niebezpieczna niż wojna z Koreą Północną
15 sierpnia
Założyciel Tesli i SpaceX, Elon Musk, mówi, że sztuczna inteligencja (AI) jest „znacznie bardziej ryzykowna” niż groźba ataku z Korei Północnej.
W związku z rosnącymi napięciami między Koreą Północną a Stanami Zjednoczonymi Musk powiedział w tweecie: „Jeśli nie martwisz się o bezpieczeństwo sztucznej inteligencji, powinieneś”.
Jeśli nie martwisz się o bezpieczeństwo AI, powinieneś. Zdecydowanie większe ryzyko niż Korea Północna. pic.twitter.com/2z0tiid0lc
— Elon Musk (@elonmusk) 12 sierpnia 2017 r.
To nie pierwszy raz, kiedy wynalazca urodzony w RPA wyraził swoje obawy dotyczące technologii sztucznej inteligencji.
Przemawiając do publiczności złożonej z polityków stanowych USA w Rhode Island w zeszłym miesiącu, Musk powiedział: „Dopóki ludzie nie zobaczą robotów idących ulicą zabijających ludzi, nie wiedzą, jak zareagować, ponieważ wydaje się to takie eteryczne”.
Aby uniknąć sytuacji, w której sztuczna inteligencja stanie się zagrożeniem dla ludzkości, rząd USA powinien „uczyć się jak najwięcej” i „uzyskać wgląd” w działanie tej technologii. Powinna także wprowadzić regulacje, które zapewnią firmom bezpieczny rozwój sztucznej inteligencji.
Podczas gdy wynalazca przyznaje, że „nikt nie lubi być regulowany”, mówi, że wszystko inne, co stanowi „zagrożenie dla społeczeństwa, jest regulowane” i że AI „powinna być też”.
Nikt nie lubi być regulowanym, ale wszystko (samochody, samoloty, jedzenie, narkotyki itp.), które stanowi zagrożenie dla społeczeństwa, jest regulowane. AI też powinna być.
— Elon Musk (@elonmusk) 12 sierpnia 2017 r.
Uwagi Muska pojawiają się w tym samym czasie, gdy sztuczna inteligencja, opracowana przez jego firmę OpenAI, z powodzeniem pokonała niektórych z najlepszych graczy na świecie w grze komputerowej Dota 2, donosi Opiekun .
System „zdołał wygrać wszystkie swoje mecze 1 na 1 na międzynarodowych mistrzostwach Dota 2 przeciwko wielu najlepszym graczom na świecie rywalizującym o pulę nagród w wysokości 24,8 mln (19 mln funtów)”.
Elon Musk wzywa do regulacji AI, zanim „będzie za późno”
18 lipca
Założyciel SpaceX i Tesli, Elon Musk, wezwał do uregulowania rozwoju sztucznej inteligencji (AI), zanim „będzie za późno”.
Przemawiając na spotkaniu polityków stanowych USA w Rhode Island w ubiegły weekend, wynalazca urodzony w RPA powiedział: „AI to rzadki przypadek, w którym myślę, że musimy działać proaktywnie w zakresie regulacji zamiast reaktywnie.
„Dopóki ludzie nie zobaczą robotów idących ulicą zabijających ludzi, nie wiedzą, jak zareagować, ponieważ wydaje się to takie eteryczne”.
Dodał: „AI to fundamentalne zagrożenie dla istnienia cywilizacji ludzkiej”.
Powiedział również, że sztuczna inteligencja będzie miała znaczący wpływ na miejsca pracy, ponieważ „roboty będą w stanie robić wszystko lepiej niż my”, dodając, że sektor transportu, który, jak powiedział, odpowiadał za 12 procent miejsc pracy w USA, będzie „jednym z pierwsze rzeczy, które muszą stać się w pełni autonomiczne”.
Musk mówił również o swoim „pragnieniu założenia kolonii międzyplanetarnych na Marsie”, aby działać jako bezpieczne schronienie, gdyby roboty miały przejąć Ziemię. Czysta technika raporty.
Aby tego uniknąć, wezwał rząd do „nauczenia się jak najwięcej” i „uzyskania wglądu” w to, jak można bezpiecznie rozwijać sztuczną inteligencję.
Jednak krytycy twierdzą, że uwagi Muska mogą „odwracać uwagę od bardziej palących obaw”, pisze Tim Simonite Przewodowy .
Ryan Calo, ekspert ds. prawa cybernetycznego z Uniwersytetu Waszyngtońskiego, powiedział stronie internetowej: „Sztuczna inteligencja to coś, na co decydenci powinni zwrócić uwagę.
„Ale skupienie się na egzystencjalnym zagrożeniu podwójnie odwraca uwagę od jego potencjału dobra i rzeczywistych problemów, jakie stwarza dziś i w najbliższej przyszłości”.
