Um Frauen in der KI-Forschung und anderen verdienten Wissenschaftlerinnen - die oft nicht gebührend gewürdigt werden - die verdiente Aufmerksamkeit zu schenken, startet TechCrunch eine Serie von Interviews, die sich auf bemerkenswerte Frauen konzentrieren, die zur KI-Revolution beigetragen haben. Wir werden im Laufe des Jahres Beiträge veröffentlichen, während der KI-Boom weitergeht, und dabei die Schlüsselarbeiten hervorheben, die oft unerkannt bleiben. Lesen Sie hier mehr Profile.
Emilia Gómez ist Forschungsleiterin am Gemeinsamen Forschungszentrum der Europäischen Kommission und wissenschaftliche Koordinatorin von AI Watch, der EC-Initiative zur Überwachung der Fortschritte, der Übernahme und der Auswirkungen von KI in Europa. Ihr Team trägt mit wissenschaftlichem und technischem Know-how zu den KI-Politiken der EC bei, einschließlich des kürzlich vorgeschlagenen KI-Gesetzes.
Gómez's Forschung gründet auf dem Bereich der Computational Music, wo sie zum Verständnis der Art und Weise beiträgt, wie Menschen Musik beschreiben, und der Methoden, in denen sie digital modelliert wird. Ausgehend vom Musikbereich untersucht Gómez die Auswirkungen von KI auf menschliches Verhalten - insbesondere die Auswirkungen auf Arbeitsplätze, Entscheidungen und die kognitive und sozial-emotionale Entwicklung von Kindern.
Frage & Antwort
Kurz gesagt, wie sind Sie in die KI eingestiegen? Was hat Sie an diesem Bereich fasziniert?
Ich begann meine Forschung in KI, insbesondere in maschinellem Lernen, als Entwicklerin von Algorithmen für die automatische Beschreibung von Musik-Audiosignalen in Bezug auf Melodie, Tonart, Ähnlichkeit, Stil oder Emotion, die in verschiedenen Anwendungen von Musikplattformen bis zur Bildung genutzt werden. Ich begann zu erforschen, wie man neuartige maschinelle Lernansätze zur Bewältigung verschiedener rechnerischer Aufgaben im Musikbereich entwickelt, und über die Relevanz des Datapipeline, einschließlich Datensatz-Erstellung und -Annotation. Was mir damals am maschinellen Lernen gefiel, waren seine Modellierungsfähigkeiten und der Übergang von wissensgesteuertem zu datengesteuertem Algorithmen-Design - z.B. anstatt Descriptoren basierend auf unserem Wissen über Akustik und Musik zu entwerfen, nutzten wir jetzt unser Know-how, um Datensätze, Architekturen sowie Trainings- und Evaluierungsprozeduren zu entwerfen.
Aus meiner Erfahrung als Forscherin im maschinellen Lernen und dem Sehen meiner Algorithmen "in Aktion" in verschiedenen Bereichen, von Musikplattformen bis hin zu symphonischen Konzerten, erkannte ich die enorme Auswirkung, die diese Algorithmen auf die Menschen (z.B. Zuhörer, Musiker) haben, und lenkte meine Forschung in Richtung KI-Evaluation anstatt Entwicklung, insbesondere auf die Untersuchung der Auswirkungen von KI auf menschliches Verhalten und wie Systeme in Bezug auf Aspekte wie Fairness, menschliche Aufsicht oder Transparenz bewertet werden können. Dies ist das aktuelle Forschungsthema meines Teams am Gemeinsamen Forschungszentrum.
Worauf sind Sie besonders stolz (im Bereich der KI)?
Auf akademischer und technischer Seite bin ich stolz auf meine Beiträge zu musikspezifischen maschinellen Lernarchitekturen am Music Technology Group in Barcelona, die den Stand der Technik in diesem Bereich vorangetrieben haben, wie es sich in meinen Zitationsaufzeichnungen widerspiegelt. Zum Beispiel schlug ich während meiner Promotion einen datengesteuerten Algorithmus zur Extraktion von Tonart aus Audiosignalen vor (z.B. ob ein Musikstück in C-Dur oder D-Moll ist), der zu einer Schlüsselreferenz in diesem Bereich geworden ist, und später entwarf ich mit anderen maschinelle Lernmethoden für die automatische Beschreibung von Musiksignalen in Bezug auf Melodie (z.B. für die Suche nach Liedern durch Summen), Tempo oder für die Modellierung von Emotionen in der Musik. Die meisten dieser Algorithmen sind derzeit in Essentia integriert, einer Open-Source-Bibliothek für Audio- und Musikanalyse, -beschreibung und -synthese, und wurden in vielen Empfehlungssystemen genutzt.
Ich bin besonders stolz auf Banda Sonora Vital (Lebens-Soundtrack), ein von der Rotkreuz-Auszeichnung für Humanitäre Technologien ausgezeichnetes Projekt, bei dem wir einen personalisierten Musikempfehler entwickelten, der an ältere Alzheimer-Patienten angepasst ist. Es gibt auch PHENICX, ein großes von der Europäischen Union (EU) gefördertes Projekt, das ich zur Nutzung von Musik; und KI zur Schaffung bereicherter symphonischer Musikerlebnisse koordiniert habe.
Ich liebe die Musik-Computing-Community und war glücklich, die erste weibliche Präsidentin der Internationalen Gesellschaft für Musikinformationsabfrage zu werden, der ich meine gesamte Karriere lang gedient habe, mit einem besonderen Interesse an der Erhöhung der Vielfalt in diesem Gebiet.
Derzeit, in meiner Rolle bei der Kommission, der ich 2018 als leitende Wissenschaftlerin beigetreten bin, unterstütze ich die KI-Politiken, die in der EU entwickelt wurden, insbesondere das KI-Gesetz. Von dieser jüngsten Arbeit, die in Bezug auf Veröffentlichungen weniger sichtbar ist, bin ich stolz auf meine bescheidenen technischen Beiträge zum KI-Gesetz - ich sage "bescheiden", da Sie erraten können, dass hier viele Personen involviert sind! Zum Beispiel gibt es viel Arbeit, zu der ich zum Thema Harmonisierung oder Übersetzung zwischen rechtlichen und technischen Begriffen (z.B. Vorschlag von Definitionen, die auf vorhandener Literatur beruhen) und zur Beurteilung der praktischen Umsetzung rechtlicher Anforderungen, wie Transparenz oder technische Dokumentation für KI-Systeme mit hohem Risiko, generische KI-Modelle und generative KI, beigetragen habe.
Ich bin auch ziemlich stolz auf die Arbeit meines Teams zur Unterstützung der EU-Richtlinie zur KI-Haftung, bei der wir unter anderem die besonderen Eigenschaften untersucht haben, die KI-Systeme intrinsisch riskant machen, wie z.B. Mangel an Kausalität, Undurchsichtigkeit, Unvorhersehbarkeit oder ihre selbst- und kontinuierlichen Lernfähigkeiten, und die damit verbundenen Schwierigkeiten bewertet haben, die sich beim Nachweis von Kausalität ergeben.
Wie begegnen Sie den Herausforderungen der von Männern dominierten Technologiebranche und in Verlängerung, der von Männern dominierten KI-Branche?
Es ist nicht nur Technologie - ich navigiere auch in einer von Männern dominierten KI-Forschungs- und Politiklandschaft! Ich habe keine Technik oder Strategie, da dies die einzige Umgebung ist, die ich kenne. Ich weiß nicht, wie es wäre, in einer vielfältigen oder von Frauen dominierten Arbeitsumgebung zu arbeiten. "Wäre es nicht schön?," wie das Lied der Beach Boys geht. Ich versuche ehrlich gesagt, Frustrationen zu vermeiden und Spaß in diesem herausfordernden Szenario zu haben, in dem ich in einer von sehr bestimmten Männern dominierten Welt arbeite und gerne mit herausragenden Frauen in diesem Bereich zusammenarbeite.
Welchen Rat würden Sie Frauen geben, die in die KI-Branche einsteigen möchten?
Ich würde ihnen zwei Dinge sagen:
Sie werden dringend gebraucht - bitte treten Sie in unser Fachgebiet ein, da eine Vielzahl von Visionen, Ansätzen und Ideen dringend erforderlich ist. Laut dem Projekt divinAI - ein Projekt, das ich zur Überwachung der Vielfalt im KI-Bereich mitbegründet habe - waren 2023 nur 23% der Autorennamen auf der International Conference on Machine Learning und 29% auf der International Joint Conference on AI weiblich, unabhängig von ihrem Geschlecht.
Sie sind nicht allein - es gibt viele Frauen, nichtbinäre Kollegen und männliche Verbündete in diesem Bereich, auch wenn wir vielleicht nicht so sichtbar oder anerkannt sind. Suchen Sie nach ihnen und holen Sie sich ihr Mentoring und ihre Unterstützung! In diesem Zusammenhang gibt es viele Gruppen mit ähnlichen Interessen in der Forschung. Zum Beispiel war ich sehr aktiv in der Women in Music Information Retrieval Initiative, die eine Pionierleistung in den Bemühungen um Vielfalt im Musik-Computing mit einem sehr erfolgreichen Mentoring-Programm war, als ich Präsidentin der International Society for Music Information Retrieval wurde.
Welche derzeit drängendsten Probleme sieht die KI in ihrer Entwicklung?
Meiner Meinung nach sollten Forscherinnen und Forscher genauso viele Anstrengungen auf die KI-Entwicklung wie auf die KI-Evaluation verwenden, da es derzeit ein Ungleichgewicht gibt. Die Forschergemeinschaft ist so damit beschäftigt, den Stand der Technik in Bezug auf KI-Fähigkeiten und -Leistung voranzutreiben und so begeistert zu sehen, wie ihre Algorithmen in der realen Welt genutzt werden, dass sie Angemessene Evaluierungen, Auswirkungsbeurteilungen und externe Audits vergessen. Je intelligenter KI-Systeme sind, desto intelligenter sollten auch ihre Bewertungen sein. Das Feld der KI-Evaluation wird zu wenig erforscht, und das ist die Ursache vieler Vorfälle, die der KI einen schlechten Ruf geben, z.B. Geschlechter- oder Rassenvorurteile in Datensätzen oder Algorithmen.
Worauf sollten KI-Nutzerinnen und -Nutzer achten?
Bürgerinnen und Bürger, die KI-gesteuerte Tools wie Chatbots nutzen, sollten wissen, dass KI keine Magie ist. Künstliche Intelligenz ist ein Produkt menschlicher Intelligenz. Sie sollten sich über die Arbeitsprinzipien und Grenzen von KI-Algorithmen informieren, um in der Lage zu sein, diese herauszufordern und verantwortungsbewusst zu nutzen. Es ist auch wichtig, dass Bürgerinnen und Bürger über die Qualität von KI-Produkten informiert sind, wie sie bewertet oder zertifiziert werden, damit sie wissen, welchen sie vertrauen können.
Wie kann man KI verantwortungsbewusst aufbauen?
Nach meiner Ansicht ist der beste Weg, KI-Produkte (mit einem guten sozialen und Umwelt-Einfluss und auf verantwortungsbewusste Weise) zu entwickeln, die benötigten Ressourcen für Bewertung, Bewertung sozialer Auswirkungen und Risikominderung - beispielsweise aufgrund von Grundrechten - aufzuwenden, bevor ein KI-System auf den Markt gebracht wird. Dies ist zum Vorteil von Unternehmen und Vertrauen in Produkte, aber auch der Gesellschaft zugute.
Verantwortliche KI oder vertrauenswürdige KI ist ein Weg, Algorithmen zu entwickeln, bei denen Aspekte wie Transparenz, Fairness, menschliche Aufsicht oder soziales und Umwelt-Wohlergehen von Beginn an im KI-Designprozess berücksichtigt werden müssen. In diesem Sinne setzt das KI-Gesetz nicht nur den Maßstab für die Regulierung von Künstlicher Intelligenz weltweit, sondern spiegelt auch das europäische Augenmerk auf Vertrauenswürdigkeit und Transparenz wider - Innovationen ermöglichen und Bürgerrechte schützen. Dies wird meines Erachtens das Vertrauen der Bürgerinnen und Bürger in das Produkt und die Technologie stärken.
