Much of the labor involved in creating software doesn't add any value to the final product. It's simply the work required to get from an idea to its execution. Work that, until recently, couldn't be avoided.

And I think that's where we're getting confused again. We're treating the elimination of labor as the elimination of creativity, when those are two very different things.

The value of creative work lies in the ideas, decisions, and vision behind it, not in how difficult the tools make it to bring those things to life.

If I went back in time, I would take myself aside and say: “you appear to be making the most common mistake that scared men make in intimate relationships, which is believing that your job is to stop your partner from having emotions that are distressing to you. Consider that this is an attempt to control her, and that she’s not going to like it any more than you like being controlled. Maybe you could appreciate that she trusts you enough to show you difficult emotions. Maybe you could actually try to understand her perspective.

Economists refer to this as the “lump of labor” fallacy, the mistaken idea that there’s one long list of all the jobs that need to be done, and that list only ever gets shorter. Technology has obviously displaced human labor; if it hadn’t, we’d all still be farmers, like we were until a few hundred years ago. [1] It just hasn’t replaced human labor on average.

But the fact is all jobs are unnecessary. In the strictest sense, we don’t need financial advisors, IT guys, kindergarten teachers, or any other professions. Humans survived just fine for several hundred thousand years doing only two jobs, namely, “hunter” and “gatherer”. The fact that our modern luxuries feel like bare necessities is proof of our limitless capacity to upgrade our nice-to-haves into must-haves. This is why the labor-lump doesn’t shrink, and why the lump of labor fallacy would perhaps be better called the finite desires fallacy.

But Fable 5.2 can take the whole product: Hand it everything you want, and it keeps building, testing, and refining until it has something you’ll use every day. It’s the first model we’ve tested that lets professionals build production-grade tools of their own without ever reading the underlying code.

ZEIT: Es gibt viele Menschen, die ihre Sorgen und Alltagsprobleme mit einem Chatbot besprechen. Bei manchen entwickelt sich sogar etwas, das sie als eine Art Freundschaft begreifen. Klingt zwar etwas seltsam, aber muss es wirklich schlimm sein?

Frances: Die Gesellschaft eines Chatbots ist eine verführerische Art, sich die Zeit zu vertreiben und Einsamkeit zu vermeiden. Denn der Bot ist viel leichter zu handhaben als echte Menschen. Er ist netter, bewundert die Userin, ist nie genervt von ihr. Warum sollten Sie sich mit der realen Welt herumschlagen? Ein ungezähmter Chatbot kann soziale Isolation massiv verstärken. Kinder sind besonders gefährdet und sollten Chatbots niemals nutzen.

ZEIT: Könnten Chatbots helfen, die Lücke zu schließen, die es weltweit zwischen dem Bedarf nach Psychotherapie und dem Angebot gibt?

Frances: Absolut. Die WHO schätzt, dass weltweit eine Milliarde Menschen wegen einer emotionalen Belastung behandelt werden müssten. Dem stehen weltweit nur rund eine Million Behandler gegenüber, wovon die meisten in reichen Ländern und großen Städten arbeiten. Chatbots könnten in dieser weltweiten Krise enorm nützlich sein – wenn sie sicher wären. Chatbots können, wenn man sie richtig trainiert, exzellente Therapeuten sein. Es gibt inzwischen viele Dutzend Unternehmen, die spezialisierte Mental-Health-Chatbots entwickeln. Es ist zu früh, um zu wissen, wie gut sie funktionieren werden.

Nur ist ja längst klar: Die deutlich höhere Konzentration an Antioxidantien gilt allein für die Wildheidelbeere, nicht für ihre gezüchtete Verwandte. Forscher nehmen als Grund den beereneigenen Abwehrmechanismus an: Weil die wilde Beere unter extremeren Bedingungen wächst, baut sie die schützenden Pflanzenstoffe auf, um zu überleben. Die Kulturheidelbeere hingegen wird verhätschelt und auf Größe, Süße, Haltbarkeit hin optimiert. Dabei arbeitet etwa die Jumbo-Zucht gegen ihr eigenes Versprechen als Superfood: Denn die Antioxidantien sitzen fast ausschließlich in der Schale, und je größer die Beere, desto schlechter das Verhältnis von nährstoffreicher Haut zu wässrigem Zuchtfruchtfleisch.

In the right hands, LLMs can produce good, reliable software in shorter timeframes than ever before. Most hands are not the right hands. Most organizations using LLMs to write code are producing slop, no matter what they tell you in their press releases.

LLMs are useful tools. They're also the products of the greatest theft of intellectual labor in human history. Both of these things can be true at the same time.