SzukajSzukaj
dołącz do nas Facebook Google Linkedin Twitter

Szef Google Sundar Pichai: źle wdrożona sztuczna inteligencja może być bardzo szkodliwa

Szef firmy Google Sundar Pichai przyznał, że obawy związane ze sztuczną inteligencją nie dają mu spać w nocy, a technologia ta może być "bardzo szkodliwa", jeśli zostanie źle wdrożona.

W rozmowie z programem "60 Minutes" w amerykańskiej stacji CBS Pichai wezwał również do stworzenia globalnych ram regulacyjnych dla sztucznej inteligencji (AI), podobnych do traktatów zawartych w sprawie bron jądrowej, ponieważ - jak ostrzegł - rywalizacja o wyprodukowanie bardziej zaawansowanej technologii może prowadzić do odsuwania na bok obaw związanych z bezpieczeństwem.

"Może być bardzo szkodliwa, jeśli zostanie źle wdrożona i nie mamy jeszcze wszystkich odpowiedzi - a technologia porusza się szybko. Więc czy to nie pozwala mi spać w nocy? Absolutnie" - powiedział.

Ruszył chatbot Bard

Na początku lutego Google udostępnił chatbota Bard, opartego na własnym modelu językowym koncernu LaMDA (Language Model for Dialogue Applications -język modelowy dla aplikacji dialogowych).

Bard udziela odpowiedzi tekstowych na najróżniejsze pytania internautów, proszony o pomysły w jakiejś sprawie przedstawia kilka wariantów. Użytkownicy w ramach jednej rozmowy mogą prosić o rozwijanie wybranych wątków czy doprecyzowywanie informacji. Cały tekst odpowiedzi pojawia się od razu, a nie słowo po słowie.

Z kolei w połowie marca Google poinformował o wprowadzeniu nowych rozwiązań opartych na sztucznej inteligencji do usług Google Cloud i Google Workspace.

Pichai powiedział, że w miarę rozwoju AI rządy będą musiały wymyślić globalne ramy dla jej regulacji. W marcu tysiące ekspertów od sztucznej inteligencji, badaczy i jej zwolenników, w tym właściciel Twittera Elon Musk, podpisało list wzywający do wstrzymania tworzenia "gigantycznych" sztucznych inteligencji na co najmniej sześć miesięcy w związku z obawami, że rozwój technologii może wymknąć się spod kontroli.

Zapytany, czy uregulowania jakie dotyczą broni jądrowej mogłyby być potrzebne, Pichai powiedział: "Potrzebowalibyśmy tego".

Jak działa Large Language Model

Technologia AI użyta w ChatGPT i Bard, znana jako Large Language Model, jest szkolona na ogromnym zbiorze danych pobranych z internetu i na zadane przez użytkowników pytania jest w stanie wygenerować wiarygodne odpowiedzi w różnych formatach, od wierszy do esejów akademickich i kodów oprogramowania.

Pichai zauważył, że AI może wyrządzić szkody poprzez swoją zdolność do wytwarzania dezinformacji. "Z AI będzie możliwe łatwo stworzyć wideo, w którym Scott (Pelley, prowadzący wywiad w CBS - red.) mówi coś, albo ja mówię coś, czego nigdy nie powiedzieliśmy. I mogłoby to wyglądać realistycznie. Ale wiesz, na skalę społeczną, wiesz, może to spowodować wiele szkód" - wyjaśnił.

Zapewnił, że wersja sztucznej inteligencji upubliczniona przez Google'a poprzez chatbota Bard jest bezpieczna, a firma wstrzymała bardziej zaawansowane wersje Barda do testów.

Pichai przyznał, że Google nie do końca rozumie, jak jego technologia AI produkuje pewne odpowiedzi. "Jest pewien aspekt tego, który nazywamy, wszyscy w tej dziedzinie nazywają, +czarną skrzynką+. Wiesz, nie rozumiesz w pełni. I nie możesz do końca powiedzieć, dlaczego ona powiedziała to, albo dlaczego się pomyliła" - mówił.

Zapytany, dlaczego Google upubliczniło Barda, skoro nie do końca rozumie jak działa, Pichai odpowiedział: "Pozwól mi to ująć w ten sposób. Nie sądzę, że my też w pełni rozumiemy, jak działa ludzki umysł".

Pichai przyznał, że społeczeństwo nie wydaje się być gotowe na szybkie postępy w AI. Powiedział, że "wydaje się, że istnieje niedopasowanie" między tempem, w jakim społeczeństwo myśli i dostosowuje się do zmian, w porównaniu z tempem, w jakim AI się rozwijała.

Dodał jednak, że przynajmniej ludzie szybciej stali się czujni na jej potencjalne zagrożenia. "W porównaniu z każdą inną technologią, widziałem więcej ludzi zaniepokojonych nią na wcześniejszym etapie jej cyklu życia. Czuję się więc optymistycznie" - przekonywał.

Google pracuje nad nową wyszukiwarką Magi

Oparta na sztucznej inteligencji wyszukiwarka Margi od Google ma rywalizować z botem od OpenAI ChatGPT i konkurencyjnymi wyszukiwarkami dopalanymi AI, jak Bing od Microsoftu. Projekt jest jeszcze na wczesnym etapie rozwoju.

Nowy projekt AI Magi, nad którym pracuje Google, opisali w założeniach dziennikarza "New York Timesa". Rozwiązanie ma zostać oficjalnie ogłoszone najwcześniej w przyszłym miesiącu.

Bezpośrednim impulsem dla Google do szybszego rozwoju własnych rozwiązań AI była według "NYT" sugestia ze strony południowokoreańskiego giganta elektroniki. Samsung miał przekazać Amerykanom, że rozważa, czy nie zmienić domyślnej wyszukiwarki w swoich urządzeniach z Google'a na Bing Microsoftu. To dlatego, że ta druga wspomagana jest sztuczną inteligencją, co przekłada się na wzrost zainteresowania użytkowników. Obecny kontrakt Samsunga z Google na wyszukiwarkę wart jest 3 miliardy dolarów rocznie.

Magi nowym projektem Google

Odpowiedzią na największe od 25 lat biznesowe wyzwanie Google miałaby zostać wyposażona w sztuczną inteligencję wyszukiwarka Magi. Oferowałaby użytkownikom znacznie bardziej spersonalizowane doświadczenie niż obecna wyszukiwarka, starając się przewidzieć ich potrzeby. Narzędzie jest obecnie dopracowywane przez zespół 160 inżynierów i projektantów i według "New York Times'a" jest we wczesnej fazie zaawansowania.  

Magi miałaby zawierać chatbot do wyszukiwania muzyki, narzędzie do nauki języków obcych czy do generowania zdjęć.

Lara Levin, rzeczniczka Google, powiedziała redakcji "NYT": "Jesteśmy podekscytowani wprowadzeniem nowych funkcji zasilanych sztuczną inteligencją do wyszukiwania. Podzielimy się większą liczbą szczegółów już wkrótce".

Testy rozwiązania miałby zostać przeprowadzone na grupie miliona Amerykanów.

Dołącz do dyskusji: Szef Google Sundar Pichai: źle wdrożona sztuczna inteligencja może być bardzo szkodliwa

3 komentarze
Publikowane komentarze są prywatnymi opiniami użytkowników portalu. Wirtualnemedia.pl nie ponosi odpowiedzialności za treść opinii. Jeżeli którykolwiek z postów na forum łamie dobre obyczaje, zawiadom nas o tym redakcja@wirtualnemedia.pl
User
Henio
Chyba każda sztuczna inteligencja będzie lepsza od tępej, pełnej nienawiści propagandy pisu.
7 11
odpowiedź
User
Pankracy
Chyba każda sztuczna inteligencja będzie lepsza od tępej, pełnej nienawiści propagandy pisu.


UWAGA! To wpis sztucznej ćwierćinteligencji.
8 5
odpowiedź
User
Mk
Dokładnie, zla implementacja moze głosić ekstremistyczne hasla typu kobieta to kobieta.
0 0
odpowiedź