IBM ostrzega przed przechwytywaniem dźwięku w rozmowach na żywo wykorzystującym sztuczną inteligencję

Naukowcy z IBM (NASDAQ: IBM) twierdzą, że generatywna sztuczna inteligencja (AI) zaskakująco łatwo umożliwia przechwytywanie rozmów na żywo i manipulowanie nimi, w celu przekazywania złośliwych informacji którejkolwiek ze stron.

Naukowcy zmodyfikowali kontekst rozmowy audio na żywo między dwiema stronami, korzystając z dużych modeli językowych (LLM), klonowania głosu i technologii zamiany tekstu na mowę.

Podczas swoich poszukiwań badacze przechwycili rozmowę audio na żywo i nasłuchiwali słów „konto bankowe”. Gdy którakolwiek ze stron wspomniała o koncie bankowym, LLM sklonowała jej głos, odcięła ją od rozmowy i zastąpiła fałszywym kontem.

Badacze zauważyli, że nie zdecydowali się na używanie sklonowanego głosu przez całą rozmowę, ponieważ łatwo byłoby go zauważyć. Badanie pokazuje ponadto, że dwa cele, których rozmowa audio na żywo została przechwycona, nie miały pojęcia, że ich połączenie zostało naruszone.

„Niepokojące jest to, że skonstruowanie tej wysoce inwazyjnej zdolności było dość łatwe, co wzbudziło poważne obawy dotyczące jej wykorzystania przez osobę atakującą kierującą się zachętami pieniężnymi i nieograniczoną do żadnych legalnych granic” – stwierdzili naukowcy.

Atak skupiał się na manipulowaniu informacjami o kontach bankowych swoich celów, jednak według IBM nie ma ograniczeń co do tego, co może osiągnąć atak polegający na podbieraniu sygnału audio. Atakujący mogą zastosować tę taktykę do modyfikowania informacji medycznych, takich jak alergie lub grupa krwi, z niszczycielskim skutkiem. Mógłby nawet poinstruować pilota, aby zmienił trasę samolotu na szerszą skalę.

„Stworzenie tego PoC było zaskakująco i przerażająco łatwe” – twierdzą naukowcy. Przed sztuczną inteligencją wyszkolenie systemu tak, aby uczył się semantyki rozmowy i modyfikował choćby jedno zdanie, wymagało zaangażowania dedykowanego zespołu badaczy.

Jednak w erze sztucznej inteligencji „LLM niezwykle ułatwiają analizę i zrozumienie rozmowy”.

Twórcy uwzględnili nawet oczekiwane przerwy, gdy system LLM formułował zdanie sklonowanym głosem. Świadomi, że przerwa może wzbudzić podejrzenia, kupili systemowi kilka sekund słowami pomostowymi, takimi jak „Jasne, daj mi tylko sekundę na podciągnięcie”.

Ponieważ sztuczna inteligencja stwarza nowe zagrożenia dla konsumentów, zapotrzebowanie na najnowocześniejsze rozwiązania w zakresie cyberbezpieczeństwa nigdy nie było większe. Certihash okazał się najlepszy w swojej klasie, wykorzystując łańcuch bloków Bitcoin do oferowania solidnych i pragmatycznych rozwiązań w zakresie cyberbezpieczeństwa, wyposażonych do radzenia sobie ze stale ewoluującymi zagrożeniami.

Jej flagowy produkt, Sentinel Node, skraca czas wykrywania zagrożeń ze średniej w branży wynoszącej ponad 200 dni do sekund. Opracowany we współpracy z IBM, Sentinel Node umożliwia ofiarom natychmiastową reakcję, potencjalnie oszczędzając miliony dolarów.

Aby sztuczna inteligencja (AI) działała zgodnie z prawem i prosperowała w obliczu rosnących wyzwań, musi zintegrować korporacyjny system blockchain, który zapewni jakość wprowadzanych danych i własność, umożliwiając im bezpieczeństwo danych, a jednocześnie gwarantując niezmienność danych. Sprawdź relacje CoinGeek na temat tej powstającej technologii, aby dowiedzieć się więcej, dlaczego łańcuch bloków korporacyjnych będzie podstawą sztucznej inteligencji.

Obejrzyj: Blockchain może zwiększyć odpowiedzialność za sztuczną inteligencję

Autor : BitcoinSV.pl

Źródło : IBM warns of AI-powered audio-jacking in live calls – CoinGeek

Author: BitcoinSV.pl
CEO