AI für HR: Staaten schreiben menschliche Aufsicht bei KI im Gesundheitswesen vor

In einer bedeutenden Entwicklung für AI für HR-Überlegungen implementieren Staaten in den USA zunehmend Vorschriften, um den Einsatz von künstlicher Intelligenz im Gesundheitswesen zu regeln, was eine kritische Verschiebung hin zur Sicherstellung menschlicher Aufsicht und Transparenz bei automatisierten Entscheidungen signalisiert.

• HR-Fachkräfte müssen AI-Tools, die in der Leistungsverwaltung und im Mitarbeiter-Wellness eingesetzt werden, proaktiv auf die Einhaltung sich entwickelnder staatlicher Vorschriften hin bewerten.
• Neue Gesetze betonen die menschliche Überprüfung, insbesondere bei nachteiligen Entscheidungen wie Leistungsablehnungen oder Behandlungen im Bereich der psychischen Gesundheit, und schaffen damit einen Präzedenzfall für den AI-Einsatz in anderen HR-Funktionen.
• Organisationen sollten AI-Lösungen priorisieren, die Transparenz, Prüfbarkeit und klare menschliche Eingriffspunkte bieten, um Compliance-Risiken zu mindern.
• Es ist entscheidend, über AI-Gesetzgebung auf Landesebene informiert zu bleiben, um zukünftige regulatorische Landschaften zu antizipieren, die alle AI-Tools für HR-Fachkräfte betreffen.

Die wachsende Regulierungslandschaft für AI im Gesundheitswesen

Die erste Hälfte des Jahres 2026 war von erheblicher legislativer Aktivität geprägt, wobei Gesetzgeber in 11 Staaten 14 gesundheitsbezogene AI-Politikmaßnahmen vorantrieben. Diese Maßnahmen waren Teil eines breiteren Trends, bei dem 84 AI-bezogene Gesetzesentwürfe in 27 Staaten verabschiedet oder in Kraft gesetzt wurden, was einen konzertierten Versuch zur Etablierung von Leitplanken für aufkommende AI-Technologien signalisiert. Für HR-Fachkräfte unterstreicht dieser regulatorische Anstieg die Bedeutung der genauen Prüfung von AI-Anwendungen in ihren eigenen Bereichen, von Recruiting AI bis hin zu AI-Talentmanagement-Systemen.

Ein Hauptaugenmerk dieser neuen Vorschriften liegt darauf, zu verhindern, dass AI eigenständige Entscheidungen trifft, die sich negativ auf Einzelpersonen auswirken könnten. Insbesondere ziehen Staaten Grenzen gegen AI, die eigenständig Leistungen ablehnt, Behandlungen im Bereich der psychischen Gesundheit anbietet oder ohne explizites Wissen der Patienten mit ihnen interagiert. Diese Betonung menschlicher Intervention und informierter Zustimmung bietet wertvolle Lehren für HR-Abteilungen, die den Einsatz fortschrittlicher AI-Tools für HR in Betracht ziehen, insbesondere solche, die mit sensiblen Mitarbeiterdaten oder kritischen Entscheidungen umgehen.

Wie Landesgesetze AI bei Leistungen und Deckung gestalten

Ein erheblicher Teil der neuen Landesgesetzgebung befasst sich direkt mit dem Einsatz von AI durch Versicherer bei Vorabgenehmigungen, Deckungsentscheidungen und Zahlungsentscheidungen. Staaten wie Alabama, Colorado, Georgia, Illinois, Iowa, Utah und Washington haben Maßnahmen ergriffen, die bei der Nutzung von AI unterschiedliche Grade menschlicher Aufsicht, individueller Überprüfung oder Offenlegung erfordern. Diese Gesetze verbieten AI im Allgemeinen nicht, zielen aber darauf ab, zu verhindern, dass nachteilige Gesundheitsentscheidungen ausschließlich auf einem Algorithmus oder bevölkerungsbezogenen Daten basieren, ohne die einzigartige Krankengeschichte und die klinischen Umstände eines Patienten zu berücksichtigen.

Zum Beispiel schreibt Alabama nun vor, dass Versicherer ihren Einsatz von AI offenlegen und Leistungsablehnungen lizenzierten Gesundheitsfachkräften vorbehalten. Colorado verlangt, dass ein lizenzierter Kliniker Leistungsablehnungen überprüft, während Washington verbietet, dass AI die alleinige Grundlage für die Ablehnung, Verzögerung oder Änderung von Gesundheitsleistungen ist. Das Gesetz von Illinois zielt speziell auf die automatisierte Herabstufung von Ansprüchen ab und erfordert eine menschliche Überprüfung für solche Feststellungen. Diese Präzedenzfälle sind für HR-Fachkräfte, die Mitarbeiterleistungen verwalten, von entscheidender Bedeutung, da sie direkt beeinflussen, wie die Gesundheitsansprüche ihrer Belegschaft bearbeitet werden und welches Maß an menschlicher Verantwortlichkeit dabei erforderlich ist.

Sicherstellung des ethischen AI-Einsatzes im Mitarbeiter-Wohlbefinden und in der psychischen Gesundheit

Ein weiterer kritischer Bereich der staatlichen Regulierung betrifft Chatbots für psychische Gesundheit und AI-Systeme, die therapeutische Unterstützung bieten. Staaten wie Colorado, Maine, Rhode Island, Tennessee und Vermont haben AI-Systeme eingeschränkt, eigenständig Therapien anzubieten, Behandlungsentscheidungen zu treffen oder sich als qualifizierte Fachkräfte für psychische Gesundheit auszugeben. Dieser legislative Vorstoß erfolgt inmitten von Warnungen von Experten für psychische Gesundheit über das Potenzial von Allzweck-Chatbots, ungenaue Ratschläge zu geben, schädliche Überzeugungen zu verstärken oder dringende Bedürfnisse nicht zu erkennen.

Diese Vorschriften sind für HR-Fachkräfte, die Mitarbeiter-Wellness-Programme überwachen oder Zugang zu Ressourcen für psychische Gesundheit anbieten, von großer Relevanz. Tennessee verbietet beispielsweise Entwicklern und Organisationen, ein AI-System als qualifizierte Fachkraft für psychische Gesundheit falsch darzustellen, während Rhode Island lizenzierten Anbietern untersagt, AI eigenständige therapeutische Entscheidungen treffen zu lassen. HR-Abteilungen müssen sicherstellen, dass alle AI-gestützten Tools zur Unterstützung der psychischen Gesundheit oder des Wohlbefindens, die Mitarbeitern angeboten werden, diesen strengen ethischen und professionellen Standards entsprechen und menschliche Fürsorge und Aufsicht priorisieren.

Was bedeuten diese Vorschriften für AI für HR-Fachkräfte?

Die aufkommende Regulierungslandschaft im Gesundheitswesen dient als kritischer Indikator für die Zukunft der AI-Governance in allen Sektoren, einschließlich des Personalwesens. Während der unmittelbare Fokus auf dem Gesundheitswesen liegt, werden sich die Prinzipien menschlicher Aufsicht, Transparenz und Verantwortlichkeit wahrscheinlich auf AI-Tools für HR-Fachkräfte erstrecken, wie z.B. Recruiting AI, AI-Talentmanagement und AI-Leistungsmanagementsysteme. HR-Führungskräfte müssen diesen Trend erkennen und beginnen, diese Überlegungen in ihre AI-Einführungsstrategien zu integrieren.

Eine praktische Erkenntnis für jede HR-Fachkraft ist die Durchführung einer gründlichen Due Diligence bei allen AI-Anbietern und -Plattformen. Erkundigen Sie sich nach deren Compliance-Frameworks, ihrem Ansatz zur menschlichen Aufsicht bei automatisierten Entscheidungen und ihren Transparenzmechanismen. Da Compliance-Herausforderungen immer unmittelbarer werden, mit mehreren versicherungsbezogenen Gesetzen und AI-Beschränkungen im Bereich der psychischen Gesundheit, die Anfang 2027 in Kraft treten sollen, wird ein proaktives Engagement bei der ethischen AI-Entwicklung und -Bereitstellung von größter Bedeutung sein, um Vertrauen zu erhalten und regulatorische Fallstricke in der sich entwickelnden Welt von AI für HR zu vermeiden.