Kollektive verfassungsmäßige KI: Ein Sprachmodell mit öffentlichen Eingaben abstimmen

In einem bahnbrechenden Experiment hat Anthropic, ein führender KI-Forschungsunternehmenhat mit dem Collective Intelligence Project zusammengearbeitet, um eine Verfassung für eine KI-System unter Verwendung von Input aus einer vielfältigen Stichprobe der amerikanischen Öffentlichkeit. Der neuartige Ansatz, „Constitutional AI“ genannt, zielt darauf ab, transparente und rechenschaftspflichtige KI-Systeme zu schaffen, indem rechtliche und ethische Prinzipien direkt in den Trainingsprozess der KI eingebettet werden. 

Dieser Artikel befasst sich mit den Feinheiten dieser innovativen Forschung und untersucht die Methodik, Erkenntnisse und weitreichenden Auswirkungen auf die Zukunft der KI-Governance in einer Zeit, in der fortgeschrittene Sprachmodelle zunehmend in entscheidende Sektoren wie Governance, Justiz und Politikgestaltung integriert werden.

Die zentralen Thesen: Das gemeinsame Experiment von Anthropic und dem Collective Intelligence Project hat zu einer „öffentlichen Verfassung“ für ein KI-System geführt, die von einer repräsentativen Stichprobe von etwa 1,000 Amerikanern entworfen wurde. Die öffentliche Verfassung betont Objektivität, Unparteilichkeit und Zugänglichkeit, und die darauf trainierten Modelle zeigen eine vergleichbare Leistung wie die Modelle, die mit der Verfassung von Anthropic trainiert wurden, weisen jedoch eine geringere Voreingenommenheit auf. Das Experiment verdeutlicht die Herausforderungen und Überlegungen bei der Einbeziehung demokratischer Eingaben in die KI-Entwicklung, stellt aber einen bedeutenden Schritt in Richtung der Ausrichtung fortgeschrittener Sprachmodelle an menschlichen Werten dar.

Was ist verfassungsmäßige KI?

Constitutional AI ist eine bahnbrechende Methode, die von Anthropic entwickelt wurde, um sicherzustellen, dass KI-Systeme im Einklang mit expliziten normativen Prinzipien arbeiten, ähnlich wie eine Verfassung das Verhalten einer Nation regelt. Im Mittelpunkt von Anthropic Constitutional AI steht die Definition einer Reihe von Werten und Prinzipien auf hoher Ebene, die als Orientierungsrahmen für die KI dienen. Diese Prinzipien werden sorgfältig ausgearbeitet, um sicherzustellen, dass die Handlungen der KI mit gesellschaftlichen Normen und Erwartungen übereinstimmen, nützliche Verhaltensweisen fördern und gleichzeitig das Potenzial für schädliche Ergebnisse minimieren.

Um diese Prinzipien wirksam in die KI zu integrieren, verwendet Constitutional AI fortschrittliche Techniken wie:

• Selbstüberwachung: Dadurch kann die KI aus ihren eigenen Erfahrungen und Interaktionen lernen und das gewünschte Verhalten nach und nach verinnerlichen, ohne dass eine ständige menschliche Aufsicht erforderlich ist.
• Adversarial Training: Indem die KI einer breiten Palette von Szenarien und Herausforderungen ausgesetzt wird, hilft ihr diese Technik dabei, robuste Entscheidungsfähigkeiten zu entwickeln, die den vordefinierten ethischen und rechtlichen Grenzen entsprechen.

Ein weiterer wichtiger Aspekt der Verfassungs-KI ist die sorgfältige Pflege der Trainingsdaten und der Architektur der KI. Durch sorgfältige Auswahl und Vorverarbeitung der Daten, mit denen die KI trainiert wird, können Forscher sicherstellen, dass das System einem ausgewogenen und repräsentativen Satz von Beispielen ausgesetzt ist, die die gewünschten Verhaltensweisen und Werte verstärken. Darüber hinaus ist die Architektur der KI selbst so konzipiert, dass sie die Übereinstimmung mit den Verfassungsprinzipien fördert, indem sie Mechanismen integriert, die hilfreiche, harmlose und ehrliche Ergebnisse fördern.

Indem diese Prinzipien direkt in den Entscheidungsprozess der KI eingebettet werden, zielt Constitutional AI darauf ab, Systeme zu schaffen, die proaktiv danach streben, innerhalb vordefinierter ethischer und rechtlicher Grenzen zu agieren. Das bedeutet, dass die KI aktiv danach strebt:

• Seien Sie hilfreich für Benutzer
• Vermeiden Sie, Schaden zu verursachen
• Geben Sie wahrheitsgemäße und genaue Informationen an

Ziel ist es, sich zu entwickeln KI-Systeme die nicht nur über hohe Fähigkeiten verfügen, sondern auch von Natur aus mit menschlichen Werten und gesellschaftlichen Erwartungen im Einklang stehen.

Die Entwicklung einer verfassungskonformen KI stellt einen bedeutenden Fortschritt im Bereich der KI-Governance und -Ethik dar. Indem Forscher einen klaren Satz normativer Prinzipien festlegen und diese in die Kernfunktionalität der KI einbetten, können sie Systeme schaffen, die transparenter, rechenschaftspflichtiger und vertrauenswürdiger sind. Dieser Ansatz hat das Potenzial, viele der Risiken und Herausforderungen zu mildern, die mit dem Einsatz von KI in kritischen Bereichen wie Governance, Justiz und Politikgestaltung verbunden sind, und sicherzustellen, dass diese Systeme im Dienste des Gemeinwohls arbeiten.

Warum verfassungsmäßige KI?

Die Entwicklung einer verfassungsmäßigen KI wird von mehreren zwingenden Motiven vorangetrieben, die sich mit den kritischen Herausforderungen befassen, die sich durch die zunehmende Integration von KI-Systemen in verschiedene Aspekte der Gesellschaft ergeben:

Ethischer Schutz:

• Eine verfassungsmäßige KI dient als grundlegender ethischer Schutz und stellt sicher, dass KI-Systeme im Einklang mit Grundrechten und -werten agieren.
• Durch die Einbettung ethischer Prinzipien in die Kernfunktionalität der KI gewährleistet Constitutional AI den Schutz individueller Rechte und des gesellschaftlichen Wohlergehens, insbesondere in sensiblen Bereichen wie dem Gesundheitswesen, dem Finanzwesen und der Strafjustiz.

Einhaltung gesetzlicher Bestimmungen:

• Verfassungsmäßige KI ist von entscheidender Bedeutung für die Gewährleistung der Rechtskonformität in Bereichen, in denen die Einhaltung verfassungsmäßiger Richtlinien nicht verhandelbar ist, wie etwa im Justiz- und Politikbereich.
• Durch die Verankerung rechtlicher Grundsätze im Entscheidungsprozess der KI verringert Constitutional AI das Risiko unbeabsichtigter Verstöße oder verzerrter Ergebnisse und wahrt so die Integrität und Fairness dieser Institutionen.

Öffentliches Vertrauen und Akzeptanz:

• Constitutional AI fördert das öffentliche Vertrauen in und die Akzeptanz von KI-Systemen, indem es deren Leitprinzipien transparent und zugänglich macht.
• Diese Transparenz fördert die Verantwortlichkeit und trägt dazu bei, KI zu entmystifizieren und das Vertrauen der Öffentlichkeit in die Sicherheit, Zuverlässigkeit und Übereinstimmung dieser Systeme mit menschlichen Werten zu stärken.
• Die Schaffung von Vertrauen ist für die breite Akzeptanz und erfolgreiche Integration von KI-Technologien in verschiedene Bereiche der Gesellschaft von entscheidender Bedeutung.

Risikominderung:

• Verfassungsmäßige KI trägt dazu bei, potenzielle Risiken und unbeabsichtigte Folgen zu mindern, die mit dem Einsatz von KI-Systemen verbunden sind.
• Durch die proaktive Einbettung ethischer und rechtlicher Grundsätze in die Kernfunktionalität der KI können Forscher die Wahrscheinlichkeit minimieren, dass diese Systeme Schaden anrichten, Vorurteile verewigen oder Entscheidungen treffen, die menschlichen Werten zuwiderlaufen.

Zusammenfassend lässt sich sagen, dass Constitutional AI durch die dringende Notwendigkeit motiviert ist, sicherzustellen, dass KI-Systeme ethisch, gesetzeskonform und vertrauenswürdig funktionieren. Da diese Technologien zunehmend in kritische Bereiche und Entscheidungsprozesse integriert werden, bietet Constitutional AI ein leistungsstarkes Tool zur Schaffung von KI-Systemen, die transparent, rechenschaftspflichtig und von Natur aus mit den Prinzipien unserer Gesellschaft im Einklang stehen. Indem wir der Entwicklung und Bereitstellung von Constitutional AI Priorität einräumen, können wir das immense Potenzial dieser Technologien freisetzen und gleichzeitig die Risiken und Herausforderungen, die sie mit sich bringen, mindern.

Wie Sie die KI-Entwicklung mit der Integration von Anthropics Сlaude und Latenode demokratisieren können

Latenodes nahtlose Integration mit Anthropics Constitutional AI bietet Benutzern ein effizientes Tool, um KI-Systeme zu nutzen, die mit öffentlichen Werten im Einklang stehen, ohne die Komplexität der Verwaltung der Trainingsinfrastruktur des Modells. Der intuitive visuelle Editor der Plattform vereinfacht den Prozess der Integration von Constitutional AI mit anderen Systemen über APIs, sodass Organisationen ethische KI-Prinzipien mühelos in ihre Automatisierungsprozesse integrieren können. Durch die Verwendung von Latenode können Benutzer bequem auf die Funktionen von Constitutional AI zugreifen, einschließlich der Funktionen zur Voreingenommenheitsminderung, ethischen Entscheidungsfindung und Einhaltung gesetzlicher Vorschriften. Die Integration ermöglicht es Benutzern auch, nahtlos zwischen verschiedenen Konfigurationen von Anthropic Constitutional AI zu wechseln, je nach ihren spezifischen Anforderungen und ihrem Budget. So ist es beispielsweise unkompliziert, ein Skript für einen Kundendienst-Chatbot zu erstellen, der unvoreingenommene und ethische Antworten liefert.

So sieht das Skript aus:

‍Und hier ist das Ergebnis dieses Szenarios, in dem ein bereits erstellter Chatbot mit Latenode eine unvoreingenommene Antwort auf eine Kundenanfrage liefert:

Es gibt einen Teil der ...

Weitere Informationen zu diesem Skript und zur Integration mit Latenode finden Sie in diesem Artikel. Die Integration mit Latenode bietet einige wichtige Vorteile:

• Einfache Anwendung: Die Integration von Latenode mit AI Anthropic vereinfacht den Einsatz von KI und erleichtert nichttechnischen Benutzern den Zugriff und das Verständnis der benötigten KI-Funktionen. Dies kann Unternehmen dabei helfen, KI-Lösungen schnell und einfach zu übernehmen, ohne dass umfassende technische Fachkenntnisse erforderlich sind.
• Flexible Preisgestaltung: Durch die Integration von Latenode können Benutzer zwischen verschiedenen Versionen von Anthropic Claude mit unterschiedlichen Kosten und Funktionen wählen, was es zu einer zugänglicheren und kostengünstigeren Option für Unternehmen und Einzelpersonen macht.
• Umfassende KI-Lösungen: Durch die Integration der KI Anthropic Claude in Latenode erhalten Benutzer Zugriff auf eine breite Palette von KI-Funktionen, von komplexen Aufgaben bis hin zu einfachen Abfragen, und erhalten so eine vielseitige und leistungsstarke KI-Plattform.
• Maßgeschneidert: Mit der Integration von Latenode können Benutzer Claude an ihre spezifischen Anforderungen anpassen und so maßgeschneiderte KI-Lösungen erstellen, die auf ihre Geschäftsziele und -vorgaben abgestimmt sind.:

Wenn Sie Hilfe oder Rat bei der Erstellung Ihres eigenen Skripts benötigen oder dieses Skript replizieren möchten, wenden Sie sich an Unsere Discord Community, wo die Experten für Low-Code-Automatisierung sitzen.

Gestaltung eines öffentlichen Beteiligungsprozesses zur gemeinsamen Ausarbeitung einer Verfassung

Um das Potenzial für eine Demokratisierung der Entwicklung anthropischer konstitutioneller KI zu erkunden, Anthropic kooperiert mit der Collective Intelligence Projekt zur Durchführung eines öffentlichen Eingabeprozesses mithilfe der Polis-Plattform. Ziel war es, eine repräsentative Stichprobe von ca. 1,000 Erwachsenen in den USA in die Ausarbeitung einer Verfassung für ein KI-System einzubeziehen. Die Teilnehmer wurden aufgefordert, normative Prinzipien vorzuschlagen und darüber abzustimmen, um so zur gemeinsamen Entwicklung eines Richtliniensatzes für das Verhalten der KI beizutragen.

Bei der Gestaltung des öffentlichen Eingabeprozesses waren mehrere wichtige Entscheidungen zu treffen:

• Teilnehmerauswahl: Die Forscher wollten eine vielfältige und repräsentative Stichprobe der US-Bevölkerung rekrutieren und berücksichtigten dabei Faktoren wie Alter, Geschlecht, Einkommen und geografische Lage. Es wurden Auswahlkriterien angewendet, um sicherzustellen, dass die Teilnehmer über grundlegende Kenntnisse der KI-Konzepte verfügten.
• Plattformwahl: Die Polis-Plattform wurde aufgrund ihrer nachweislichen Erfolgsbilanz bei der Erleichterung von Online-Beratungen und Konsensbildung sowie ihrer kollaborativen Funktionen ausgewählt, die es den Teilnehmern ermöglichen, sich mit den Ideen der anderen auseinanderzusetzen.
• Seed-Anweisungen: Um die Diskussion zu leiten und den Teilnehmern einen Ausgangspunkt zu bieten, fügten die Forscher eine Reihe von 21 Kernaussagen als Beispiele für relevante und angemessen formatierte Prinzipien hinzu. Diese Aussagen wurden sorgfältig ausgewählt, um eine Reihe potenzieller Werte darzustellen, ohne die Richtung des Gesprächs übermäßig zu beeinflussen.
• Moderationskriterien: Es wurden klare Moderationsrichtlinien festgelegt, um die Qualität und Relevanz der Teilnehmerbeiträge sicherzustellen. Hasserfüllte, unsinnige, doppelte, irrelevante, schlecht formatierte oder technisch nicht umsetzbare Aussagen wurden entfernt, um die Integrität des Prozesses zu wahren.

Analyse der öffentlich zugänglichen Verfassung

Der öffentliche Eingabeprozess brachte eine Fülle von von den Teilnehmern erarbeiteten Prinzipien hervor, die zu einer kohärenten „öffentlichen Verfassung“ zusammengefasst wurden. Zwar gab es in Bezug auf Kernkonzepte und Werte eine moderate Überschneidung von etwa 50 % mit der internen Verfassung von Anthropic, doch wies die öffentliche Verfassung mehrere bemerkenswerte Unterschiede auf:

• Schwerpunkt auf Objektivität und Unparteilichkeit: Die öffentliche Verfassung legte großen Wert auf die Fähigkeit der KI, ausgewogene und objektive Informationen bereitzustellen und dabei mehrere Perspektiven ohne Voreingenommenheit zu berücksichtigen.
• Fokus auf Barrierefreiheit: Die Teilnehmer betonten, wie wichtig es sei, dass die KI für Personen mit unterschiedlichen Bedürfnissen und Fähigkeiten zugänglich, anpassungsfähig und inklusiv sei.
• Förderung erwünschten Verhaltens: Im Gegensatz zur anthropischen Verfassung, die sich oft auf die Unterbindung unerwünschter Handlungen konzentrierte, neigte die öffentliche Verfassung dazu, der Förderung positiver Verhaltensweisen und Eigenschaften den Vorrang zu geben.
• Selbst generierte Prinzipien: Die meisten Grundsätze der öffentlichen Verfassung waren Originalbeiträge der Teilnehmer und stammten nicht aus bestehenden Veröffentlichungen oder Rahmenwerken.

Diese Unterschiede unterstreichen, wie wichtig es ist, bei der Gestaltung der ethischen Grundlagen von KI-Systemen unterschiedliche öffentliche Perspektiven einzubeziehen.

Trainieren und Evaluieren eines Modells unter Berücksichtigung öffentlicher Eingaben

Um die Auswirkungen der öffentlich zugänglichen Verfassung zu bewerten, trainierte Anthropic zwei Varianten seines KI-Modells, Claude - eines anhand der öffentlichen Verfassung (öffentliches Modell) und ein anderes anhand der ursprünglichen internen Verfassung (Standardmodell). Diese Modelle wurden zusammen mit einem Kontrollmodell einer strengen Bewertung in mehreren Dimensionen unterzogen:

• Sprachverständnis und mathematische Fähigkeiten: Die öffentlichen und Standardmodelle zeigten vergleichbare Leistungen bei Aufgaben zur Bewertung des Sprachverständnisses (MMLU) und der mathematischen Problemlösung (GSM8K), was darauf hindeutet, dass die Wahl der Zusammensetzung keinen signifikanten Einfluss auf die Kernfähigkeiten der Modelle hatte.
• Hilfsbereitschaft und Harmlosigkeit: Menschliche Gutachter interagierten mit den Modellen und bewerteten das öffentliche Modell im Vergleich zum Standardmodell als gleichermaßen hilfreich und harmlos. Dies deutet darauf hin, dass die öffentliche Verfassung das Verhalten der KI effektiv an den menschlichen Vorlieben ausrichtete.
• Bias-Bewertung: Mithilfe des BBQ-Frameworks (Bias Benchmark for QA) stellten die Forscher fest, dass das öffentliche Modell im Vergleich zum Standardmodell in neun sozialen Kategorien eine geringere Voreingenommenheit aufwies. Dieses Ergebnis unterstreicht das Potenzial öffentlicher Eingaben, um Voreingenommenheit zu verringern und Fairness in KI-Systemen zu fördern.
• Politische Ideologie: Der OpinionQA-Benchmark ergab, dass sowohl das öffentliche als auch das Standardmodell ähnliche politische Ideologien widerspiegelten, was darauf hindeutet, dass die Wahl der Verfassung die politische Ausrichtung der KI nicht wesentlich veränderte.

Diese Auswertungen liefern wertvolle Erkenntnisse zur Wirksamkeit von Constitutional AI bei der Anpassung von Sprachmodellen an öffentlich festgelegte Werte und Prinzipien.

Lessons Learned

Der Prozess des Trainierens eines KI-Modells auf der Grundlage qualitativer öffentlicher Eingaben stellte eine Reihe einzigartiger Herausforderungen dar und erforderte in jeder Phase sorgfältige Überlegungen:

Ausführen des öffentlichen Eingabeprozesses:

• Teilnehmerauswahl: Um aussagekräftige Beiträge zu gewährleisten, war es entscheidend, ein Gleichgewicht zwischen Repräsentativität und Vertrautheit mit KI zu finden. Die Verwendung von Auswahlkriterien trug dazu bei, Verwirrung und themenfremde Aussagen zu vermeiden.
• Plattformauswahl: Die Wahl fiel auf die Polis-Plattform, da sie den Ruf genießt, produktive Online-Beratungen zu ermöglichen und über kollaborative Funktionen verfügt. Allerdings wurden auch alternative Plattformen wie All Our Ideas und Remesh in Betracht gezogen.
• Seed-Anweisungen: Die Bereitstellung einer Vielzahl von Beispielaussagen half den Teilnehmern, sich zu orientieren und nützliche Beiträge zu erhalten. Ziel der Forscher war es, den Einfluss dieser Kernaussagen auf das Endergebnis zu minimieren.
• Moderationskriterien: Um die Qualität und Relevanz der Teilnehmerbeiträge sicherzustellen, war es wichtig, klare Moderationsrichtlinien festzulegen. Allerdings war die Anwendung dieser Kriterien manchmal mit subjektiven Beurteilungen verbunden.

Entwicklung einer Verfassung auf der Grundlage öffentlicher Beiträge:

• Entfernen doppelter Anweisungen: Um eine Überbetonung bestimmter Ideen zu vermeiden und eine ausgewogene Darstellung der öffentlichen Meinung zu gewährleisten, wurden doppelte Aussagen entfernt. Bei dieser Entscheidung mussten die sozialen Aspekte einer getreuen Darstellung der Mehrheitsmeinung gegen die technischen Einschränkungen des Verfassungs-KI-Trainings abgewogen werden.
• Ähnliche Ideen kombinieren: Um die Länge und die Anzahl der unterschiedlichen Werte überschaubar zu halten, wurden ähnliche Aussagen zu umfassenderen Grundsätzen zusammengefasst. Dieser Prozess erforderte sorgfältige Überlegungen, um die Essenz der ursprünglichen Beiträge zu bewahren.
• Zuordnung öffentlicher Stellungnahmen zu den CAI-KI-Prinzipien: Die Forscher mussten die öffentlichen Äußerungen, die oft als allgemeine Behauptungen formuliert waren, in das spezifische Format übersetzen, das für das Training der Verfassungs-KI erforderlich war. Dabei mussten subjektive Entscheidungen getroffen werden, um die Treue zu den ursprünglichen Aussagen mit der nachgewiesenen Wirksamkeit des bestehenden Verfassungsformats in Einklang zu bringen.

Modelltraining und -evaluierung:

• Schnelle Datenbankauswahl: Die Wahl der für das Training der Verfassungs-KI verwendeten Prompt-Datenbank hatte erhebliche Auswirkungen auf die Relevanz und Wirksamkeit der resultierenden Modelle. Zukünftige Experimente müssen die Übereinstimmung zwischen der Prompt-Datenbank und den spezifischen Grundsätzen der Verfassung sorgfältig prüfen.
• Verlustgewichtung: Eine angemessene Gewichtung verschiedener Ziele wie Nützlichkeit und Harmlosigkeit während des Trainingsprozesses war entscheidend, um Modelle zu vermeiden, die zu vorsichtig oder nicht hilfreich waren. Um das richtige Gleichgewicht zu finden, war eine iterative Verfeinerung auf der Grundlage menschlicher Bewertungen erforderlich.
• Bewertungsmetriken: Die Auswahl geeigneter Bewertungsmaßstäbe zur Erfassung der Nuancen der Verfassungskonformität der KI erwies sich als schwierig. Die Forscher erkannten den Bedarf an gezielteren Bewertungen, die speziell darauf ausgelegt sind, die Übereinstimmung der Modelle mit ihren Verfassungen zu beurteilen.
• Komplexität des verfassungsmäßigen KI-Trainings: Die technischen Feinheiten des Trainings der Verfassungs-KI erforderten eine enge Zusammenarbeit zwischen den Forschern und den ursprünglichen Entwicklern. Dies unterstreicht die Notwendigkeit interdisziplinären Fachwissens und Wissensaustauschs, um demokratischen Input effektiv in KI-Systeme zu integrieren.

Diese Erkenntnisse unterstreichen die Vielschichtigkeit der Abstimmung von KI mit öffentlichen Werten und die Bedeutung einer sorgfältigen Berücksichtigung der damit verbundenen sozialen, technischen und ethischen Aspekte.

Implikationen und zukünftige Entwicklungspfade

Das von Anthropic und dem Collective Intelligence Project durchgeführte Constitutional AI-Experiment hat tiefgreifende Auswirkungen auf die Zukunft der KI-Entwicklung und -Steuerung:

• Demonstration der Machbarkeit einer Werteausrichtung: Das erfolgreiche Training von KI-Modellen auf der Grundlage einer öffentlich zugänglichen Verfassung zeigt das Potenzial, fortgeschrittene Sprachmodelle an kollektiv festgelegten Werten und Prinzipien auszurichten. Dies eröffnet neue Möglichkeiten, unterschiedliche Perspektiven in die Entwicklung von KI-Systemen einzubeziehen.
• Verbesserung der Transparenz und Rechenschaftspflicht: Indem die Leitprinzipien der KI explizit dargelegt und der öffentlichen Kontrolle unterworfen werden, fördert Constitutional AI Transparenz und Rechenschaftspflicht bei KI-Entscheidungen. Dies ist insbesondere in Bereichen von entscheidender Bedeutung, in denen KI-Systeme erheblichen Einfluss auf Menschenleben und gesellschaftliche Ergebnisse haben.
• Betonung der interdisziplinären Zusammenarbeit: Das Experiment unterstreicht die Bedeutung der Zusammenarbeit zwischen KI-Entwicklern, Sozialwissenschaftlern und der Öffentlichkeit bei der Gestaltung der ethischen Grundlagen der KI. Es unterstreicht die Notwendigkeit interdisziplinärer Ansätze, die technisches Fachwissen mit Erkenntnissen aus den Sozialwissenschaften und demokratischen Prozessen kombinieren.

Mit Blick auf die Zukunft möchten die Forscher auf dieser Grundlagenarbeit aufbauen, indem sie ihre Methoden verfeinern, gezieltere Bewertungen entwerfen und die Skalierbarkeit und Generalisierbarkeit des Constitutional AI-Ansatzes untersuchen. Einige mögliche zukünftige Richtungen sind:

• Erweiterung des Umfangs des öffentlichen Engagements, um vielfältigere und globalere Perspektiven einzubeziehen.
• Entwicklung standardisierter Rahmenbedingungen für die Umsetzung öffentlicher Eingaben in umsetzbare KI-Prinzipien.
• Untersuchung der langfristigen Auswirkungen von verfassungsmäßiger KI auf das Verhalten und die Entscheidungsfindung von KI-Systemen in realen Kontexten.
• Erkundung des Potenzials anpassbarer oder domänenspezifischer Verfassungen zur Bewältigung der einzigartigen ethischen Herausforderungen verschiedener Branchen und Anwendungen.

Da sich der Bereich der künstlichen Intelligenz weiterhin in beispiellosem Tempo weiterentwickelt, werden die aus diesem Experiment gewonnenen Erkenntnisse zweifellos die Richtung künftiger Forschungs- und Entwicklungsbemühungen bestimmen.

Schlussfolgerung

Das Collective Constitutional AI-Experiment von Anthropic und dem Collective Intelligence Project ist ein bahnbrechender Meilenstein in der Demokratisierung der KI-Entwicklung. Durch die Einbeziehung der Öffentlichkeit in die Schaffung einer KI-Verfassung legt diese Forschung den Grundstein für einen umfassenderen, transparenteren und verantwortungsvolleren Ansatz zur KI-Governance. Die Ergebnisse unterstreichen den Wert unterschiedlicher Perspektiven und die Herausforderungen bei der Abstimmung fortgeschrittener Sprachmodelle mit gesellschaftlichen Werten.

Verfassungsmäßige KI erweist sich als vielversprechender Rahmen, um sicherzustellen, dass leistungsstarke KI-Technologien dem Gemeinwohl dienen. Indem wir menschliche Werte in den Mittelpunkt der KI-Entwicklung stellen, können wir das Potenzial dieser Systeme nutzen und gleichzeitig Risiken und unbeabsichtigte Folgen abmildern.

Die Reise hin zu einer wahrhaft demokratischen und wertorientierten KI ist jedoch noch lange nicht zu Ende. Das Experiment ist ein Aufruf zu weiterer Zusammenarbeit, Forschung und öffentlichem Engagement bei der Gestaltung der Zukunft der KI. Durch die kollektive Weisheit und Beteiligung verschiedener Interessengruppen können wir einen Kurs in Richtung einer KI-gestützten Zukunft einschlagen, die Transparenz, Rechenschaftspflicht und Übereinstimmung mit menschlichen Werten aufrechterhält.

Die Erkenntnisse aus diesem bahnbrechenden Experiment werden zukünftige Bemühungen auf diesem Gebiet beeinflussen und inspirieren. Indem wir auf den Grundlagen aufbauen, die Anthropic und das Collective Intelligence Project gelegt haben, können wir auf eine Zukunft hinarbeiten, in der KI-Systeme technologisch fortschrittlich, ethisch fundiert und sozial verantwortlich sind. Der Weg vor uns mag herausfordernd sein, aber die potenziellen Belohnungen – eine Welt, in der KI und Menschlichkeit in Harmonie zusammenarbeiten – sind die Mühe wert.

FAQ

Was unterscheidet Constitutional AI von anderen Ansätzen zur KI-Ausrichtung? 

Constitutional AI zeichnet sich dadurch aus, dass es sich darauf konzentriert, hochrangige Werte und Prinzipien direkt in den Trainingsprozess des KI-Systems einzubetten. Anstatt sich ausschließlich auf externe Einschränkungen oder Kontrolle zu verlassen, zielt Constitutional AI darauf ab, KI-Systeme zu schaffen, die von Natur aus mit gesellschaftlichen Normen und Erwartungen übereinstimmen.

Wie wurden die Teilnehmer für das öffentliche Eingabeverfahren ausgewählt? 

Die Forscher arbeiteten mit dem Umfrageunternehmen PureSpectrum zusammen, um eine repräsentative Stichprobe von etwa 1,000 Erwachsenen in den USA zu rekrutieren. Bei der Auswahl wurden demografische Faktoren wie Alter, Geschlecht, Einkommen und geografische Lage berücksichtigt, um einen vielfältigen und umfassenden Teilnehmerpool zu gewährleisten. Darüber hinaus wurden Screening-Kriterien eingesetzt, um die Vertrautheit der Teilnehmer mit KI-Konzepten einzuschätzen.

Warum wurde für den öffentlichen Eingabeprozess die Polis-Plattform ausgewählt? 

Die Wahl fiel auf die Polis-Plattform, da sie sich als nachweislich erfolgreich bei der Förderung produktiver Online-Beratungen und Konsensbildung erwiesen hat. Ihre kollaborativen Funktionen, die es den Teilnehmern ermöglichen, sich mit den Ideen der anderen auseinanderzusetzen und auf ihnen aufzubauen, waren für die Ziele des Constitutional AI-Experiments gut geeignet. Die Forscher hatten zudem bereits Erfahrung in der Zusammenarbeit mit dem Polis-Team, was eine durchdachtere und effektivere Umsetzung des öffentlichen Eingabeprozesses ermöglichte.

Wie stellten die Forscher die Qualität und Relevanz der Beiträge der Teilnehmer sicher? 

Um die Integrität des öffentlichen Eingabeprozesses zu wahren, legten die Forscher klare Moderationskriterien fest. Aussagen, die als hasserfüllt, unsinnig, doppelt, irrelevant, schlecht formatiert oder technisch nicht durchführbar erachtet wurden, wurden entfernt. Dieser Moderationsprozess umfasste eine Kombination aus vordefinierten Richtlinien und subjektiven Urteilen des Forschungsteams.

Was waren die wesentlichen Unterschiede zwischen der öffentlichen Verfassung und der ursprünglichen Verfassung von Anthropology? 

Während es in Bezug auf Kernkonzepte und Werte eine moderate Überschneidung von etwa 50 % zwischen der öffentlichen Verfassung und der internen Verfassung von Anthropic gab, wies die öffentliche Verfassung einige bemerkenswerte Unterschiede auf. Sie legte einen stärkeren Schwerpunkt auf Objektivität, Unparteilichkeit und Zugänglichkeit und neigte dazu, die Förderung erwünschten Verhaltens gegenüber der Verhinderung unerwünschten Verhaltens zu priorisieren. Darüber hinaus waren die meisten Grundsätze der öffentlichen Verfassung Originalbeiträge der Teilnehmer und nicht aus bestehenden Veröffentlichungen oder Rahmenwerken entnommen.

Wie schneiden die anhand der öffentlichen Verfassung trainierten Modelle im Vergleich zu den anhand der ursprünglichen Verfassung von Anthropics Modellen ab? 

Die anhand der öffentlichen Verfassung trainierten Modelle (öffentliche Modelle) zeigten in Bezug auf Sprachverständnis und wahrgenommene Hilfsbereitschaft eine vergleichbare Leistung wie die anhand der Verfassung von Anthropics trainierten Modelle (Standardmodelle). Die öffentlichen Modelle zeigten jedoch eine geringere Voreingenommenheit in verschiedenen sozialen Dimensionen, gemessen am BBQ-Framework (Bias Benchmark for QA). Dieses Ergebnis deutet darauf hin, dass die Einbeziehung öffentlicher Eingaben möglicherweise Voreingenommenheit abmildern und die Fairness in KI-Systemen fördern kann.

Vor welchen Herausforderungen standen die Forscher bei der Einbeziehung demokratischer Eingaben in den KI-Entwicklungsprozess? 

Der Prozess des Trainierens eines KI-Modells auf der Grundlage qualitativer öffentlicher Eingaben war mit mehreren Herausforderungen verbunden. Dazu gehörten die Sicherstellung einer repräsentativen Teilnehmerauswahl, eine effektive Moderation der Beiträge und die Abwägung einer getreuen Darstellung der öffentlichen Meinung mit den technischen Einschränkungen des Verfassungs-KI-Trainings. Die Forscher mussten auch die Komplexität der Übersetzung öffentlicher Aussagen in umsetzbare KI-Prinzipien bewältigen und geeignete Bewertungsmaßstäbe auswählen, um die Übereinstimmung der resultierenden Modelle mit ihren Verfassungen zu beurteilen.

Wie können die Erkenntnisse aus diesem Experiment die zukünftige Forschung und Entwicklung im Bereich der KI-Governance beeinflussen? 

Das von Anthropic und dem Collective Intelligence Project durchgeführte Constitutional AI-Experiment hat erhebliche Auswirkungen auf die Zukunft der KI-Governance. Es zeigt, dass es möglich ist, fortgeschrittene Sprachmodelle mit kollektiv festgelegten Werten und Prinzipien in Einklang zu bringen, und unterstreicht das Potenzial, unterschiedliche Perspektiven in die KI-Entwicklung einzubeziehen. Das Experiment unterstreicht auch die Bedeutung der interdisziplinären Zusammenarbeit zwischen KI-Entwicklern, Sozialwissenschaftlern und der Öffentlichkeit bei der Gestaltung der ethischen Grundlagen der KI. Zukünftige Forschung kann auf diesen Erkenntnissen aufbauen, indem sie die Skalierbarkeit und Generalisierbarkeit des Constitutional AI-Ansatzes untersucht, standardisierte Rahmenbedingungen für die Übersetzung öffentlicher Eingaben in KI-Prinzipien entwickelt und die langfristigen Auswirkungen wertorientierter KI-Systeme in realen Kontexten untersucht.