Blog parade “AI for Common Welfare?”

(Deutsche Version unten)

@algoethik is running a blog parade “AI for common welfare?”. I tried to respond to their questions.

1. To what extent are ethical and Common Welfare aspects of AI already covered by the key points paper?
2. Which relevant common welfare aspects are missing in the key points paper?
3. A look outside: What have other countries done better in their strategies?
4. What concrete measures should be included in the German AI strategy so that algorithms and AI are used for the benefit of society and for the benefit of all?

#1: The paper relentlessly mentions ethics and an ethics commission; it adds clauses like “taking into consideration…”, and so on. There are many honorable declarations of intent. I particularly like the “traceability” of algorithms. This is fine.

But (#2) I wonder if this intent can be sustained once the economic pressure grows and the jobs become scarce.

I do not believe that the change on the labour market only means that we will have different jobs (such that employees just need more education). We must not kid ourselves. The small number of new jobs for programmers and algorithm supervisors, or for managers with the much heralded new kind of soft-skills, cannot outweigh the jobs lost to the cognitive automation, IMHO. Understanding what AI can do now, we will no longer underestimate their competitive power on the labour market. (And there are even voices who say that today, humans themselves strive to become more machine-like — i.e., even easier to replace.)

The paper speaks of a “basis of justified trust and acceptability for users” (sectiion 3.9), and this needs, IMHO, a palpable guarantee (#4) and commitment for jobs. Not job security for existing jobs, but for sufficient jobs. And not just welfare (in a reservation where AI keep us benevolently as well-fed pets?), but sufficient gainful employmnet.

The paper sets the ambitious goal that Germany shall become a worldwide leading location for AI. If workers have a worldwide leading, justified, trust in their security, this may well happen, because then they will embrace the development rather than procrastinating and resisting it. Perhaps the time has come that an enforceable ‘right of work’ finally enters into the laws. For example, for every Euro of revenue, x Cents must be paid as wages — with these obligations being tradeable, of course. Otherwise, I think, Luddism will be inevitable, when workers feel like the Silesian weavers when the mechanical loom was introduced.

The horror scenario would be that algorithms are employed to administer the shortage of jobs. Any administration of shortages done by AI will be intolerable. Even if there was traceability of the algorithms. I also doubt that this traceability can really be achieved, except in simpler cases. After all, trial-and-error plays a big role in machine learning, doesn’t it? And if we hope that we can still supervise the algorithms, we must not forget the fatigue effect which inevitably occurs when 98 % of the AI decisions are reasonable. Perhaps a criterion for the admission of an algorithm would be that if it cannot be traced it must not administer shortages.

(Re question #3, I don’t know enough about others, but Finland seems to have thought about labour market aspects: see here.)

German:

@algoethik veranstaltet eine Blogparade. Ich versuche, die Fragen zu beantworten:

• Inwieweit werden ethische Gesichtspunkte und Gemeinwohl-Aspekte von KI durch das Eckpunktepapier bereits abgedeckt?
• Welche relevanten Gemeinwohl-Aspekte fehlen im Eckpunktepapier?
• Der Blick nach draußen: Was haben andere Länder in ihren Strategien besser gemacht?
• Welche konkreten Maßnahmen sollten in der deutschen KI-Strategie auftauchen, damit Algorithmen und KI in den Dienst der Gesellschaft und zum Wohle aller eingesetzt werden?

 

(1.) Das Papier erwähnt unablässig Ethik und eine Ethikkommission; es enthält Klauseln wie “unter Berücksichtigung von…”, usw. Es gibt viele ehrenwerte Absichtsbekundungen. Besonders gefällt mir die “Nachvollziehbarkeit” von Algorithmen. Das ist gut.

Aber (2.) ich frage mich: können diese Absichten aufrecht erhalten werden, wenn der ökonomische Druck steigt und die Arbeitsplätze knapp werden?

Ich glaube nicht dass der Wandel auf dem Arbeitsmarkt nur bedeutet, dass wir andere Jobs haben werden (so dass Arbeitnehmer nur mehr Weiterbildung brauchen). Wir dürfen uns nichts vormachen. Die wenigen neuen Arbeitsplätze für Programmierer und Algorithmen-Supervisoren, oder für Manager mit der vielbeschworenen neuen Art von Soft-Skills, können nicht die Verluste ausgleichen, die durch die Kognitive Automation entstehen, denke ich. Wenn wir verstehen, zu was KI jetzt fähig ist, können wir ihre Wettbewerbsposition auf dem Arbeitsmarkt nicht mehr unterschätzen. (Und manche Stimmen sagen, dass der Mensch selbst ehrgeizig immer maschinenähnlicher wird, also noch leichter zu ersetzen.)

Das Papier spricht von einer “Grundlage für berechtigtes Vertrauen und Akzeptanz für Nutzerinnen und Nutzer” (Abschnitt 3.9), und diese braucht m.E. eine greifbare, konkrete Garantie (4.) für Arbeitsplätze. Keine Garantie für die derzeitigen Stellen, aber für ausreichende Stellen. Und nicht nur Gemeinwohl im Sinne von Wohlfahrt (in einem Reservat, wo uns die gutwilligen KIs halten wie wohlgenährte Haustiere?), sondern ausreichend Erwerbsarbeit.

Das Papier setzt sich das ehrgeizige Ziel, dass Deutschland der weltweit führende Standort für KI werden soll. Wenn die Arbeitnehmer ein weltweit führendes, berechtigtes Vertrauen in ihre Sicherheit haben, kann das Ziel durchaus realistisch werden, denn dann können sie die Entwicklung bereitwillig annehmen, statt Verschleppug und Widerstand zu zeigen. Vielleicht ist nun die Zeit gekommen, dass letztendlich ein einklagbares “Recht auf Arbeit” in die Gesetzgebung einziehen muss. Etwa, von jedem Euro Umsatz müssen x Cent als Löhne aufgewendet werden — wobei diese Obligationen natürlich gehandelt werden können. Andernfalls, glaube ich, wird zwangsläufig eine Maschinenfeindlichkeit entstehen, wenn sich die Arbeitnehmer fühlen wie die schlesischen Weber, als der mechanische Webstuhl eingeführt wurde.

Das Horrorszenario wäre, dass Algorithmen die Mangelverwaltung für Arbeitsplätze übernehmen. Jede Mangelverwaltung durch KI wäre unerträglich. Sogar mit Nachvollziehbarkeit der Algorithmen. Ich bezweifle auch dass diese Nachvollziehbarkeit wirklich erreicht werden kann, außer in ganz einfachen Fällen. Schließlich spielt Trial-and-Error doch eine große Rolle baim maschinellen Lernen? Und wenn wir hoffen, dass wir die Algorithmen ja noch überwachen könnten, dürfen wir nicht den Ermüdungseffekt vergessen, der sich zwangsläufig einstellt wenn 98 % der KI-Entscheidungen vernünftig sind. Vielleicht wäre es ein Kriterium für die Zulassung eines Algorithmus, dass er keine Mangelverwaltung betreiben darf wenn er nicht nachvollziehbar ist.

(Zu 3. weiß ich zu wenig über andere, aber Finnland scheint schon über Aspekte des Arbeitsmarktes nachzudenken, siehe hier.)