Вештачката интелигенција (ВИ) брзо станува доволно моќна и може значително да ги зголеми способностите на криминалните групи, терористичките организации и непријателските држави, доколку владите и технолошките компании не ги зајакнат безбедносните мерки, се наведува во новиот извештај објавен од Центарот за проучување на егзистенцијални ризици (ЦСЕР) при Универзитетот Кембриџ, пренесува Анадолу.
Во извештајот се предупредува дека сè поспособните ВИ-системи би можеле да направат софистицирани кибернапади што ќе бидат поевтини, побрзи и достапни за многу поширок круг злонамерни актери, истовремено забрзувајќи ги онлајн дезинформациите, измамите, како и биолошките и хемиските закани и воената употреба на автономно оружје.
Предупредувањето доаѓа во време кога конкуренцијата меѓу водечките развивачи на ВИ создаде нова генерација на таканаречени „фронтир“ ВИ-модели, поради што владите и разузнавачките служби низ светот повторно ги проценуваат националните безбедносни последици од технологијата.
Извештајот од Кембриџ доаѓа во период кога компании како OpenAI, Anthropic, Google DeepMind, Meta и xAI објавуваат сè понапредни модели на големи јазични системи способни за расудување, пишување софтвер, научно истражување и извршување сложени задачи со минимален човечки надзор.
За разлика од порано, кога ВИ-системите главно се користеа за генерирање текст, денешните напредни модели може да пишуваат и дебагираат код, анализираат големи бази на податоци, користат интернет-алатки, планираат повеќестепени работни текови и соработуваат со корисници на долгорочни проекти.
Се очекува овие достигнувања да ги трансформираат индустриите како здравство, образование, инженерство и научни истражувања. ВИ веќе помага во забрзувањето на откривање лекови, зголемувањето на продуктивноста и автоматизацијата на задачи.
Но способностите што носат големи економски и научни придобивки може да ја олеснат и злоупотребата.
- „Фронтир“ ВИ-моделите стануваат поспособни
Според извештајот, ВИ е типична „двојно употреблива“ технологија – способна да донесе големи придобивки, но и нови можности за злоупотреба.
Истражувачите нагласуваат дека проблемот не е технологијата, туку потребата безбедносните мерки да се развиваат исто толку брзо колку и нејзините способности. Темпото на напредок изненадило многу експерти.
Британскиот Институт за безбедност на ВИ утврдил дека перформансите на ВИ во некои области, особено во кибербезбедноста, се подобруваат многу брзо, при што одредени способности се удвојуваат приближно на секои осум месеци. Неодамнешни „фронтир“ модели веќе покажаа перформанси на експертско ниво на избрани задачи за кибербезбедност.
Овие напредоци предизвикале загриженост кај разузнавачките служби, а неодамна и сојузот „Пет очи“ (САД, Велика Британија, Канада, Австралија и Нов Зеланд) предупреди дека напредни ВИ-модели би можеле за неколку месеци да овозможат високо софистицирани кибернапади.
- Киберкриминалот и дезинформациите како главна загриженост -
Истражувачите од Кембриџ го идентификуваат киберкриминалот како можеби најнепосреден ризик што го носи напредната вештачка интелигенција.
Моќните ВИ-системи може да автоматизираат откривање ранливост во софтвер, да генерираат убедливи „фишинг“ е-пораки на повеќе јазици, да пишуваат злонамерен код, да анализираат украдени податоци и да помагаат во координација на сè покомплексни кибероперации.
Иако денешните развивачи на ВИ имаат воведено заштитни механизми за спречување на многу видови злоупотреба, истражувачите предупредуваат дека сè поспособните системи би можеле значително да ја намалат техничката експертиза потребна за изведување софистицирани кибернапади.
Друга голема загриженост е брзото ширење на дезинформации генерирани од ВИ.
Како што сликите, видеата и синтетичките гласови стануваат сè пореалистични, експертите стравуваат дека непријателски влади, криминални организации и влијателни групи би можеле да користат лажна содржина во невиден обем за да манипулираат со избори, да ги продлабочат политичките поделби или да шират лажни наративи пред факт-чекерите да успеат да реагираат.
Во извештајот, исто така, се предупредува за појава на автономни ВИ-агенти способни да извршуваат долги секвенции на дејства со минимален човечки надзор.
За разлика од класичните чет-ботови, овие системи може самостојно да комуницираат со софтвер, да донесуваат одлуки, да извршуваат задачи и да координираат повеќе дигитални алатки.
Иако ваквите способности може значително да ја зголемат продуктивноста, исто така, тие може да ја намалат можноста луѓето да интервенираат ако системите се однесуваат неочекувано или бидат злоупотребени.
Истражувачите дополнително предупредуваат дека ВИ сè почесто може да помогне во истражувања поврзани со биолошки и хемиски агенси.
Иако сегашните модели се ограничени и имаат значајни заштитни мерки, идните системи би можеле да понудат научни способности што ќе бараат посилна контрола за да се спречи злонамерна употреба, а истовремено да се зачува легитимното медицинско и фармацевтско истражување.
- Воените примени како друга сè поголема загриженост -
Брзиот напредок на дронови со вградена вештачка интелегенција, надзорни системи и автономно оружје веќе го менува современото војување. Безбедносни експерти предупредуваат дека комерцијално достапните ВИ-технологии би можеле да бидат приспособени не само од држави туку и од недржавни актери, зголемувајќи ги брзината, обемот и прецизноста на идните конфликти.
И покрај растечките ризици, извештајот не повикува на запирање на развојот на ВИ.
Наместо тоа, истражувачите од Универзитетот Кембриџ препорачуваат посилна соработка меѓу владите, развивачите на ВИ и експертите за кибербезбедност, поголема транспарентност за напредните ВИ-системи, поширока примена на ригорозни безбедносни тестирања пред пуштање во употреба и поблиска меѓународна координација во управувањето со ВИ.
Наодите се усогласени со поширокиот Извештај за безбедност на ВИ 2026, кој заклучува дека способностите на ВИ се развиваат побрзо од многу постојни безбедносни мерки и ги идентификува злонамерната употреба, техничките грешки и системските ризици како три најитни предизвици на технологијата.
На крајот, истражувачите од Кембриџ нагласуваат дека светот има тесен временски прозорец за подготовка пред ВИ да стане уште помоќна.
„Технологијата што може да го забрза научното откритие може да го забрза и киберкриминалот“, се наведува во извештајот, при што се нагласува дека спречувањето злоупотреба ќе бара континуирано следење, меѓународна соработка и безбедносни мерки што се развиваат паралелно со сè поспособните ВИ-системи, а не дури откако ќе се случат сериозни инциденти.
