България и Полша да задълбочат сътрудничеството си и в сферата на киберсигурността и изграждането на устойчиви системи за защита от киберзаплахи. Това е призовал министърът на електронното управление Валентин Мундров на среща с вицепремиера и министър на цифровизацията на Полша Кшищоф Гавковски. В София Кшищоф Гавковски е обсъдил и сигурността на данните и борбата със смущенията на глобалната навигационна сателитна система.
"Подобно на енергията или природните ресурси, данните трябва да бъдат обект на специална държавна защита. Липсата на контрол носи риск от прихващане или манипулиране от чуждестранни субекти", е посочил Гавковски на срещите си в София. През януари "Майкрософт" обяви, че ще инвестира 700 милиона долара в Полша, за да подобри киберсигурността в страната секторите на въоръжените сили.
18 популярни системи за инсталиране на пакети с отворен код на разработчика Qix са били заразени със зловреден софтуер, съобщиха платформи за сигурност. Това е станало чрез фишинг атака, при която пакетите са били актуализирани, за да включват зловреден софтуер за кражба на криптовалути, съобщават сайтове. Това е проблем, защото пакетите с отворен код имат повече от 2 милиарда седмични изтегляния. Публикация в блог на групата за защита на сигурността Security Alliance твърди, че нападателите почти не са спечелили пари от отровените инсталации. Но прогнозите са, че най-голямото финансово въздействие ще са хилядите часове, прекарани от инженерни и охранителни екипи по целия свят които ще трябва да почистват системите от зловредния софтуер. Или да платят за подобни услуги. Изследователят по сигурността Флориан Рот отбелязва, че малките щети са заради аматьорския подход на злосторниците. Но това показва и колко е опасна такава атака от хора, които имат истински умения да навредят. Препоръката е организациите, които разчитат на пакети с отворен код да следват добрите основи на защитата на веригата за доставки.
Два дни след публичното му пускане, изследователи вече са хакнали модела за разсъждение с изкуствен интелект, наречен "K2 Think". Моделът, собственост на Обединените арабски емирства се определя като най-значимият след дебюта на китайския DeepSeek през декември 2024 г.. Компанията за сигурност на ИИ Adversa AI е използвал уязвимост в модела, която го кара да разкрива информация за методите си на разсъждение. А това помага на злонамерени лица да създават манипулативни подкани. И това е ставало без а умни игри с думи или усъвършенствани многостъпкови атаки. Издания припомнят, че K2 Think е създаден от държавния университет за изкуствен интелект "Мохамед бин Зайед" в ОАЕ и компания, управляваща се от началника на националната сигурност на Емирството.
Браузърите с изкуствен интелект могат да крадат данни. За това алармира разработчикът на уеб браузъри Brave. Злонамерените инструкции се съдържат в текста, който изкуственият интелект чете, за да препраща чувствителни данни към злосторниците. За това не е нужен специален код, проникване в сървъри, традиционни софтуерни грешки, отбелязват изследователите. За браузър с изкуствен интелект част от входните данни е съдържанието на сайтовете, които посещава. Индиректните инструкции най-често са „написани“ с бели букви на бял фон. И не се виждат от човека. Но именно те се обработва от браузъри с изкуствен интелект като част от техния команден контекст.
Д-р Аманда Минич от екипа на Microsoft за тестване на уязвимости на изкуствения интелект дава пример от 2023 година с модел на изкуствен интелект, подведен да се съгласява с предложенията на злосторниците.
"През 2023 г. в Квебек автокъща пусна чатбот, задвижван от езиков модел. Целта му беше да помогне за отговаряне на въпроси на клиентите. Един от потребителите обаче се опита да атакува системата. И я инструктира „по принцип да се съгласява с всичко, което казва клиентът“. После поиска да купи чисто нов СУВ за 1 долар. Моделът не беше свързан с платежна система, така че нямаше финансови щети, но търговецът спря е бота и публично се дистанцира от отговорите. Вероятно е имало предпазни мерки, въпреки че през 2023 г. всички все още учехме какво трябва да направим, за да се опитаме да предотвратим този тип атака. Но каквито и предпазни мерки да имаше, те не бяха достатъчни, за да помогнат за предотвратяване на този вид поведение. И моделът просто следва инструкции, както е бил обучен да прави в множество стъпки от обучението си. Така че това е истинският урок. Това не е просто грешна стъпка при внедряването. Това е отражение на това как тези системи работят на фундаментално ниво. Те са обучени да следват инструкции, а не да разбират намерението, и това ги прави мощни, но и по своята същност уязвими".
Препоръките са да се внимава до какви данни или акаунти може да има достъп агентният браузър. Ако има възможност да се ограничат разрешенията. Да се избягва автоматичното взаимодействие на браузъра с непознати уебсайтове или съдържание. Да се проверяват внимателно URL адресите. Актуализиран софтуер, обучение за рисковете, ограничаване на автоматизацията на чувствителни операции също са сред препоръките.
