Agencja Zaawansowanych Projektów Badawczych Obrony (DARPA) rządu Stanów Zjednoczonych ogłosiła dwuletni konkurs mający na celu znalezienie najlepszych narzędzi sztucznej inteligencji do naprawy podatności oprogramowania.
AI Cyber Challenge zostanie przeprowadzony we współpracy z gigantami branży, w tym OpenAI, Google i Microsoftem, a Open Source Security Foundation (OpenSSF) Linux Foundation będą doradcami tego wyzwania.
Do zdobycia jest łącznie 18,5 mln dolarów w nagrodach. Zadaniem rywalizujących drużyn, które wszystkie będą działać w Stanach Zjednoczonych, jest opracowanie sposobu ochrony oprogramowania uruchamianego na kluczowym kodzie infrastruktury za pomocą sztucznej inteligencji. Małe firmy uczestniczące w konkursie otrzymają od DARPA po 1 mln dolarów na rozwinięcie swoich narzędzi.
Perry Adams, menedżer programu DARPA, powiedział: „Chcemy stworzyć systemy, które automatycznie mogą bronić wszelkiego rodzaju oprogramowania przed atakami”. Dodając: „Niedawne postępy w dziedzinie sztucznej inteligencji, jeśli są używane odpowiedzialnie, mają niezwykły potencjał do zabezpieczania naszego kodu”.
Z powodu ogromnej różnorodności otwartego kodu źródłowego używanego w różnego rodzaju aplikacjach, obecnie istnieje więcej baz kodu z podatnościami. To otworzyło drzwi dla coraz to większej liczby ataków, które mogą mieć niszczące i dalekosiężne skutki. W odpowiedzi prezydent Biden podpisał zarządzenie wykonawcze mające na celu zwiększenie standardów bezpieczeństwa cybernetycznego dla łańcucha dostaw oprogramowania, aby zapewnić, że oprogramowanie używane przez rząd jest bezpieczne od samego początku.
„AI Cyber Challenge to okazja do zbadania, co jest możliwe, gdy eksperci z dziedziny cyberbezpieczeństwa i sztucznej inteligencji mają dostęp do zestawu zasobów wspólnych dla różnych firm, o niezrównanej jakości” – powiedział Adams.
„Jeśli odniesiemy sukces, mam nadzieję zobaczyć, że AI Cyber Challenge nie tylko wygeneruje nową generację narzędzi cyberbezpieczeństwa w tej dziedzinie, ale również pokaże, jak sztuczna inteligencja może być używana do poprawy społeczeństwa, broniąc jego krytycznych fundamentów”.
Ponieważ wielu cyberprzestępców sięga po sztuczną inteligencję, aby przeprowadzać ataki, obrońcy i dostawcy oprogramowania bezpieczeństwa również wykorzystują tę zaawansowaną automatyzację do wykrywania i przeciwdziałania zagrożeniom.
Kwalifikacje do AI Cyber Challenge odbędą się wiosną 2024 roku, a do półfinału na konferencji DEF CON tego samego roku zostanie zaproszonych do 20 najlepszych uczestników. Do pięciu zwycięskich drużyn trafi po 2 mln dolarów nagrody, a następnie wezmą udział w finale DEF CON 2025. Trzy najlepsze zespoły również otrzymają nagrody, a zwycięzca otrzyma 4 mln dolarów.
Wszyscy zwycięzcy zostaną poproszeni o udostępnienie swoich opracowanych systemów na zasadach open source, chociaż nie będą zobowiązani do tego; to jest całkowicie dobrowolne.
