Administrata Biden ka përcaktuar se modelet gjeneruese të AI do të duhet të vlerësohen nga ekspertë të pavarur. Kjo detyrë e rëndësishme i është caktuar komunitetit të hakerëve të fshatit AI, i cili gjatë konferencës DEF CON 31 në Las Vegas (10-13 gusht), do të ekzaminojë teknologjitë e kompanive të ndryshme për të gjetur defekte dhe defekte të tjera të inteligjencës artificiale.
Mijëra hakerë sfidojnë AI
AI Village, i themeluar nga Sven Cattell, është një komunitet hakerash dhe shkencëtarësh që studiojnë inteligjencën artificiale për të identifikuar përdorimet dhe abuzimet në aspektin e sigurisë dhe privatësisë. Pas marrjes së të dhënave nga Shtëpia e Bardhë, studiuesit do të analizojnë modele nga Anthropic, Google, Hugging Face, NVIDIA, OpenAI dhe Stability AI, duke shfrytëzuar një platformë të zhvilluar nga Scale AI.
Njoftimi për shtyp nxjerr në pah avantazhet e të ashtuquajturit LLM (Large Langugae Model), por edhe rreziqet që rrjedhin nga teknologjia (halucinacione, paragjykime, jailbreak) të cilat mund të bëhen rrezik për sigurinë dhe privatësinë. Gjatë DEF CON në gusht, mijëra hakerë do të studiojnë modelet e kompanive të lartpërmendura përmes një aksesi në kohë. Një rezultat CTF (Capture The Flag) do të caktohet dhe kushdo që arrin rezultatin më të lartë do të marrë një kartë video të nivelit të lartë NVIDIA si çmim.
Mes të pranishmëve në konferencën DEF CON do të jenë edhe qindra studentë. Qëllimi është të kuptojmë se si funksionojnë modelet e AI dhe të përmirësojnë aftësitë teknologjike. DEF CON 29 i 2021 priti konkursin e parë në lidhje me mësimin e makinerive. Hakerët shikuan algoritmin e prerjes së Twitter për të dalluar gabimin që preferonte imazhet e grave dhe njerëzve me lëkurë të hapur.
This is a companion discussion topic for the original entry at https://zero1.al/2023/05/08/mijera-hakere-sfidojne-inteligjencen-artificiale/