ChatGPT i nowa sztuczna inteligencja wprowadzają spustoszenie w dziedzinie cyberbezpieczeństwa w ekscytujący i przerażający sposób

Sztuczna inteligencja generatywna rewolucjonizuje cyberbezpieczeństwo, pomagając zarówno atakującym, jak i obrońcom. Cyberprzestępcy wykorzystują AI do przeprowadzania wyrafinowanych i nowatorskich ataków na dużą skalę. Obrońcy natomiast korzystają z tej samej technologii do ochrony kluczowej infrastruktury, organizacji rządowych i sieci korporacyjnych - powiedział Christopher Ahlberg, CEO platformy wywiadu zagrożeń Recorded Future.

Generatywna sztuczna inteligencja pomogła złym aktorom innowować i rozwijać nowe strategie ataków, umożliwiając im utrzymanie się krok przed obroną cyberezpieczeństwa. AI pomaga cyberprzestępcom automatyzować ataki, skanować powierzchnie ataku i generować treści, które rezonują z różnymi regionami geograficznymi i demograficznymi, umożliwiając im docieranie do szerszego spektrum potencjalnych ofiar w różnych krajach. Cyberprzestępcy przyjęli technologię do tworzenia przekonujących wiadomości phishingowych. Tekst generowany przez AI pomaga napastnikom tworzyć bardzo personalizowane wiadomości e-mailowe i SMS-y, które bardziej prawdopodobnie zwiodą cel.

"Myślę, że nie trzeba myśleć bardzo kreatywnie, żeby zdać sobie sprawę, człowieku, że to może faktycznie pomóc [cyberprzestępcom] być autorami, co stanowi problem" - powiedział Ahlberg.

Obrońcy korzystają z sztucznej inteligencji (AI), aby odpierać ataki. Organizacje używają tej technologii, aby zapobiegać wyciekom danych i proaktywnie znajdować podatności sieciowe. Ponadto, dynamicznie automatyzuje zadania, takie jak ustawianie alarmów dla konkretnych słów kluczowych i wykrywanie wrażliwych informacji online. Łowcy zagrożeń wykorzystują AI do identyfikowania nietypowych wzorców i podsumowania dużych ilości danych, łącząc ze sobą różne źródła informacji i ukryte wzorce.

Nadal niezbędna jest praca ekspertów, ale Ahlberg twierdzi, że technologia generatywnego AI, którą widzimy w projektach takich jak ChatGPT, może pomóc.

"Chcemy przyspieszyć cykl analizy, aby pomóc nam analizować w tempie myśli" - powiedział. "To bardzo trudne do osiągnięcia i myślę, że widzimy tutaj przełom, co jest naprawdę ekscytujące."

Ahlberg omówił także potencjalne zagrożenia, jakie mogą przynieść wysoce inteligentne maszyny. W miarę jak świat staje się coraz bardziej cyfrowy i połączony, możliwość manipulowania rzeczywistością i kształtowania percepcji może być wykorzystana przez wrogie podmioty. Te zagrożenia nie są ograniczone do państw narodowych, co czyni krajobraz jeszcze bardziej skomplikowanym i asymetrycznym.

Sztuczna inteligencja ma potencjał pomóc w ochronie przed tymi nowymi zagrożeniami, ale również stwarza własny zestaw ryzyk. Na przykład, maszyny o wysokiej zdolności przetwarzania mogą dokonywać hakowania systemów szybciej i skuteczniej niż ludzie. Aby przeciwdziałać tym zagrożeniom, musimy zapewnić, że sztuczna inteligencja jest stosowana defensywnie i przy jasnym zrozumieniu, kto ma kontrolę.

W miarę jak sztuczna inteligencja staje się coraz bardziej zintegrowana z społeczeństwem, ważne jest, aby prawodawcy, sędziowie i inni decydenci rozumieli technologię i jej implikacje. Budowanie silnych sojuszy między ekspertami technicznymi a decydentami politycznymi będzie kluczowe w nawigowaniu przyszłością sztucznej inteligencji w polowaniu na zagrożenia i nie tylko.

Szanse, wyzwania i kwestie etyczne związane z AI w cyberbezpieczeństwie są złożone i ewoluujące. Zapewnienie obiektywnych modeli AI i utrzymanie zaangażowania człowieka w podejmowanie decyzji pomoże zarządzać wyzwaniem etycznym. Czuwałość, współpraca i klarowne zrozumienie technologii będą niezbędne przy rozwiązywaniu potencjalnych długoterminowych zagrożeń inteligentnych maszyn.

Ahlberg wyraził również obawy dotyczące Chin, Rosji i ekonomicznych przeciwników wdrożenia autonomicznych maszyn. Te kraje prawdopodobnie nie spowolnią rozwoju AI ani nie będą dzielić się rozważaniami etycznymi. Chociaż posiadanie możliwości "odłączenia" takich maszyn jest inteligentnym zabezpieczeniem, sugeruje on, że integracja technologii w społeczeństwie i gospodarce światowej utrudni ich odłączenie. Ahlberg podkreśla konieczność projektowania produktów i maszyn z klarownym określeniem, kto nimi zarządza.

„Wielką rzeczą, którą internet zrobił w tej całej sprawie, jest to, że stał się miejscem, gdzie przenoszono wszystkie informacje na świecie” - powiedział Ahlberg. „Te duże modele językowe wykonują naprawdę magiczne rzeczy... aby przyśpieszyć ten cykl myślowy”.

Dodał: "W ciągu najbliższych 25 lat świat stanie się odzwierciedleniem internetu".