Home Tecnology Microsoft muss verhindern, dass synthetische Intelligenz in Richtung Menschen steigt

Microsoft muss verhindern, dass synthetische Intelligenz in Richtung Menschen steigt

34
0

Microsoft und einige Technologiegiganten haben einen entscheidenden Schritt unternommen, um zu verhindern, dass sich synthetische Intelligenz gegen die Leute erhebt und irgendeine Form von „Skynet“ einführt.

Stoppen Sie den Anstieg der synthetischen Intelligenz in Richtung Menschen

Diese Besorgnis über einen Skynet-ähnlichen „Aufstand der Maschinen“ kann jetzt mit neuen Schutzmaßnahmen, die ergriffen werden, um sich von einer möglichen KI-Rebellion fernzuhalten, aufatmen. Die gemeinnützige MITRE Company hat die Adversarial ML Risk Matrix (Adversarial ML Risk Matrix) zusammen mit Microsoft, IBM und Nvidia mit den 12 Unternehmen mit dem höchsten Fachwissen gegründet. Die Gruppe gibt an, dass das System ein offenes Framework ist, das Sicherheitsanalysten dabei unterstützt, Bedrohungen zu erkennen, zu alarmieren, zu beantworten und zu lösen, wobei der Schwerpunkt auf ML-Programmen (Machine Study) liegt.

Laut Microsoft wird dieser Schritt durch die kontinuierliche Verbesserung der verschiedenen Angriffe gegen industrielle KI-Programme auf der ganzen Welt ausgelöst. Die Agentur bewertet 28 ausgewählte Riesenunternehmen und gibt an, dass praktisch alle das Risiko feindlicher Maschinenstudien nicht kennen und dass 28, 25 nicht die richtigen Instrumente benötigen, um ML-Programme zu sichern.

Matrix besteht aus früheren Schwachstellen und feindseligem Verhalten, die Microsoft und MITRE im Laufe der Jahre festgestellt haben, und basiert auf den Erfahrungen von Microsoft im Sicherheitsgeschäft.

In einem Weblog von Microsoft sagt er: “ Jetzt haben wir herausgefunden, dass subversiv beim Angriff auf ein ML-System zusätzlich zu feindlichen ML-Methoden eine Mischung aus „konventionellen Methoden“ verwendet wird, die Phishing und lateraler Bewegung ähneln . ”

Wie Mikel Rodriguez , Director of Machine Studying Analysis bei MITRE, berücksichtigt dies. “ In Bezug auf die Sicherheit von Maschinenstudien verschwimmen die Trennlinien zwischen privaten und nicht privaten Anstrengungen und Aufgaben. Herausforderungen des öffentlichen Sektors, die der landesweiten Sicherheit ähneln, würden neben der öffentlichen Finanzierung auch die Zusammenarbeit persönlicher Veranstaltungen erfordern. Bei MITRE sind wir bestrebt, wichtige Schwachstellen in der Lieferkette für Maschinenstudien herauszufinden und mit Organisationen wie Microsoft und der gesamten Gruppe zusammenzuarbeiten. Dieser Rahmen ist der erste Schritt in Richtung einer gemeinsamen Einbindung von Gemeinschaften und eines Dienstes für Organisationen, wobei berücksichtigt wird, dass ihre maschinellen Lernprogramme besonders ganzheitlich gesichert werden.

LEAVE A REPLY

Please enter your comment!
Please enter your name here