Pusat Pertahanan Termaklum Ancaman MITRE mengumumkan pelancaran inisiatif Perkongsian Insiden AI minggu ini, kerjasama dengan lebih daripada 15 syarikat untuk meningkatkan pengetahuan komuniti tentang ancaman dan pertahanan untuk sistem yang didayakan AI .
Inisiatif perkongsian insiden terletak di bawah bidang kuasa projek Secure AI pusat itu, dan bertujuan untuk membolehkan kerjasama pantas dan selamat terhadap ancaman, serangan dan kemalangan yang melibatkan sistem yang didayakan AI. Ia meluaskan jangkauan pangkalan pengetahuan komuniti MITRE ATLAS , yang telah mengumpul dan mencirikan data mengenai insiden tanpa nama selama dua tahun. Di bawah inisiatif ini, komuniti kolaborator akan menerima data yang dilindungi dan tanpa nama mengenai insiden AI dunia sebenar.
Insiden boleh diserahkan melalui web (di https://ai-incidents.mitre.org/) oleh sesiapa sahaja. Organisasi yang menyerahkan akan dipertimbangkan untuk menjadi ahli dengan matlamat untuk membolehkan risikan dan analisis risiko terdorong data pada skala.
Secure AI juga melanjutkan rangka kerja ancaman ATLAS untuk menggabungkan maklumat tentang landskap ancaman sistem yang didayakan AI generatif, menambahkan beberapa kajian kes dan teknik serangan tertumpu AI generatif baharu, serta kaedah baharu untuk mengurangkan serangan ke atas sistem ini. Pada November 2023, dengan kerjasama Microsoft, MITER mengeluarkan kemas kini kepada pangkalan pengetahuan ATLAS yang memfokuskan pada AI generatif.
“Perkongsian maklumat yang standard dan pantas tentang insiden akan membolehkan seluruh komuniti meningkatkan pertahanan kolektif sistem sedemikian dan mengurangkan bahaya luaran,” kata Douglas Robbins, naib presiden, MITER Labs, dalam satu kenyataan .
MITER mengendalikan perkongsian maklumat awam swasta yang serupa dengan pangkalan data Analisis dan Perkongsian Maklumat Keselamatan Penerbangan untuk berkongsi data dan maklumat keselamatan untuk mengenal pasti dan mencegah bahaya dalam penerbangan.
Kolaborator dalam Secure AI merangkumi industri, dengan wakil daripada perkhidmatan kewangan, teknologi dan penjagaan kesihatan. Senarai itu termasuk AttackIQ, BlueRock, booz Allen Hamilton, CATO Networks, Citigroup, Cloud Security Alliance, CrowdStrike, FS-ISAC, Fujitsu, HCA Healthcare, HiddenLayer, Intel, JPMorgan Chase Bank, Microsoft, Standard Chartered dan Verizon Business.