Mozilla hat die AI Intersections Database gestartet. Dabei handelt es sich um eine Datenbank, welche Überschneidungen zwischen den dokumentierten Auswirkungen Künstlicher Intelligenz sowie verschiedenen Bereichen sozialer Gerechtigkeit erfasst.

In der AI Intersections Database von Mozilla werden Überschneidungen zwischen den wichtigsten Bereichen der sozialen Gerechtigkeit und der Menschenrechte unserer Zeit sowie die dokumentierten Auswirkungen der künstlichen Intelligenz und ihre Erscheinungsformen in der Gesellschaft dargestellt. Darüber hinaus erfasst die Datenbank zivilgesellschaftliche Organisationen, Akteure sozialer Bewegungen, Forscher und andere Einrichtungen, die entweder aktiv an diesen Schnittpunkten arbeiten oder sich gut für ein Engagement in diesen Bereichen über Partnerschaften eignen.

Die Nutzer können die Datensätze unter anderem nach Rechtsbereichen (zum Beispiel Behindertengerechtigkeit, wirtschaftliche Gerechtigkeit, Rassengerechtigkeit), nach KI-Auswirkungskategorien (zum Beispiel Vorurteile und Diskriminierung, Verletzung von Verbraucherrechten, Ausbeutung von Arbeitnehmern) und Region filtern.

Die Datenbank soll Organisationen helfen, Forschung zu betreiben, Arbeit zu teilen, Partnerschaften zu schmieden und Unterstützer im gemeinsamen Kampf für digitale Technologien zu finden, die Menschen und Gemeinschaften helfen und nicht schaden.

Der Beitrag Mozilla startet AI Intersections Database erschien zuerst auf soeren-hentzschel.at.

Mozilla hat eine neue Mozilla Builders Initiative gestartet, in deren Rahmen Projekte bis zu 100.000 USD Förderung und Mentoring für die Entwicklung von Open-Source-Anwendungen zum Thema Lokale KI erhalten können.

Der Mozilla Builders Accelerator finanziert und unterstützt Projekte, die für das Open-Source-KI-Ökosystem wichtig sind. Ausgewählte Projekte erhalten bis zu 100.000 US-Dollar Förderung und nehmen an einem 12-wöchigen Programm teil, welches sich auf die Entwurfs-, Bau- und Testphasen der Projekte fokussiert, gefolgt von einer Alumni-Phase zur laufenden Unterstützung. Das Programm umfasst Unterrichtssitzungen, geführte Workshops und praktische Aufgaben. Die Teilnehmer haben Zugang zum Mozilla-Ökosystem, das ein breites Spektrum an Menschen, Partnern und Organisationen umfasst, die sich für Open-Source-Innovationen einsetzen. Darüber hinaus wird es Möglichkeiten geben, die Projekte über Mozilla-Kanäle und -Veranstaltungen zu präsentieren.

Damit ein Projekt für die Förderung infrage kommt, muss es sowohl unter einer Open-Source-Lizenz stehen als auch Lokale KI zum Thema haben, sprich Künstliche Intelligenz, welche direkt auf dem Gerät des Endanwenders und nicht in einer Cloud ausgeführt wird. Lokale KI bietet im Vergleich erhebliche Vorteile in Bezug auf Datenschutz, Kosteneffizienz, kulturelle Relevanz und Systemzuverlässigkeit.

Bewerbungsschluss ist der 1. August 2024. Teilnehmer verpflichten sich, während der Laufzeit des Programms Vollzeit an ihrem Projekt zu arbeiten und sowohl beim Kick-Off-Workshop am 12. September 2024 sowie am Demo-Tag am 5. Dezember 2024 anwesend zu sein.

Der Beitrag Mozilla Builders: Förderungen für Open-Source-Projekte zum Thema Lokale KI erschien zuerst auf soeren-hentzschel.at.

Mit ØDin, kurz für Zero-Day Investigation Network, hat Mozilla ein Bug-Bounty-Programm für Generative Künstliche Intelligenz (GenAI) gestartet.

Unter einem Bug-Bounty-Programm versteht man Initiativen, welche für das Melden von Sicherheitsproblemen Belohnungen ausloben. Mit dem Zero-Day Investigation Network, kurz ØDin, hat Mozilla nun ein Bug-Bounty-Programm für sogenannte Generative Künstliche Intelligent (GenAI) gestartet.

Während es bereits andere Bug-Bounty-Programme wie HackerOne und BugCrowd gibt, beschränken diese sich auf Sicherheitsprobleme in der Software selbst. Bei ØDin soll es um die Absicherung des gesamten Ökosystems und explizit um Schwachstellen gehen, welche andere Programme ausschließen. Dies schließt vor allem Schwachstellen in den KI-Modellen mit ein. So soll ØDin die erste und bisher einzige Bug-Bounty-Plattform sein, welche offen Anreize für die Modellforschung schafft.

Da sich die Technologielandschaft ständig weiterentwickelt, sehen wir die Notwendigkeit für die nächste Evolution der Bug-Bounty-Programme, um das GenAI-Ökosystem weiter voranzutreiben und die Schwachstellen in den Modellen selbst zu beheben. Zu diesen Schwachstellen gehören Prompt Injection, Training Data Poisoning, Denial of Service und mehr. Mozilla investiert in die nächste Generation der GenAI-Sicherheit mit dem 0Day Investigative Network (0Din), einem Bug-Bounty-Programm für große Sprachmodelle (LLMs) und andere Deep Learning Technologien. 0Din erweitert die Möglichkeiten zur Identifizierung und Behebung von GenAI-Sicherheit, indem es über die Anwendungsebene hinausgeht und sich auf neu entstehende Klassen von Schwachstellen und Schwachstellen in diesen neuen Generationen von Modellen konzentriert.

Mozilla

Der Beitrag ØDin – Mozilla startet Bug-Bounty-Programm für Generative Künstliche Intelligenz (GenAI) erschien zuerst auf soeren-hentzschel.at.