April 22nd-28th 2023 Ukraine’s game plan

part on her work, and in part on that of her late hus­
band Lou Reed. 
Without you
Ms Anderson says she does not consider using the sys­
tem as a way of collaborating with her dead partner.
Others might succumb more readily to such an illu­
sion. If some chatbots do become, to some extent,
their user’s inner voice, then that voice will persist
after death, should others wish to converse with it.
That some people will leave chatbots of themselves be­
hind when they die seems all but certain. 
Such applications and implications call to mind
Sigmund Freud’s classic essay on the
Unheimliche
, or
uncanny. Freud takes as his starting point the idea that
uncanniness stems from “doubts [as to] whether an
apparently animate being is really alive; or conversely,
whether a lifeless object might not be in fact animate”.
They are the sort of doubts that those thinking about
LLM
s are hard put to avoid.
Though 
AI 
researchers can explain the mechanics
of their creations, they are persistently unable to say
what actually happens within them. “There’s no ‘ulti­
mate theoretical reason’ why anything like this should
work,” Stephen Wolfram, a computer scientist and the
creator of Wolfram Alpha, a mathematical search en­
gine, recently concluded in a remarkable (and lengthy)
blog post trying to explain the models’ inner workings. 
If some 
chatbots become 
their user’s 
inner voice, that
voice will persist 
after death
012

---

20
The Economist 
April 22nd 2023
Essay
Artificial intelligences
This raises two linked but mutually exclusive con­
cerns: that 
AI
’s have some sort of internal working
which scientists cannot yet perceive; or that it is possi­
ble to pass as human in the social world without any
sort of inner understanding. 
“These models are just representations of the dis­
tributions of words in texts that can be used to produce
more words,” says Emily Bender, a professor at the
University of Washington in Seattle. She is one of the
authors of “On the Dangers of Stochastic Parrots: Can
Language Models Be Too Big?” a critique of 
LLM
trium­
phalism. The models, she argues, have no real under­
standing. With no experience of real life or human
communication they offer nothing more than the abil­
ity to parrot things they have heard in training, an abil­
ity which huge amounts of number crunching makes
frequently appropriate and sometimes surprising, but
which is nothing like thought. It is a view which is of­
ten pronounced in those who have come into the field
through linguistics, as Dr Bender has. 
For some in the 
LLM
­building trade things are not
that simple. Their models are hard to dismiss as “mere
babblers”, in the words of Blaise Agüera y Arcas, the
leader of a group at Alphabet which works on 
AI
­po­
wered products. He thinks the models have attributes
which cannot really be distinguished from an ability
to know what things actually mean. It can be seen, he
suggests, in their ability reliably to choose the right
meaning when translating phrases which are gram­
matically ambiguous, or to explain jokes. 
If Dr Bender is right, then it can be argued that a
broad range of behaviour that humans have come to
think of as essentially human is not necessarily so.
Uncanny “doubts [as to] whether an apparently ani­
mate being is really alive” are fully justified. 
To accept that human­seeming 
LLM
s are calcula­
tion, statistics and nothing more could influence how
people think about themselves. Freud portrayed him­
self as continuing the trend begun by Copernicus—
who removed humans from the centre of the uni­
verse—and Darwin—who removed them from a spe­
cial and God­given status among the animals. Psychol­
ogy’s contribution, as Freud saw it, lay in “endeavour­
ing to prove to the ‘ego’ of each one of us that he is not
even master in his own house”. 
LLM
s could be argued
to take the idea further still. At least one wing of
Freud’s house becomes an unoccupied “smart home”;
the lights go on and off automatically, the smart ther­
mostat opens windows and lowers blinds, the roomba
roombas around. No master needed at all. 
Uncanny as that may all be, though, it would be
wrong to think that many people will take this latest
decentring to heart. As far as everyday life is con­
cerned, humankind has proved pretty resilient to Co­
pernicus, Darwin and Freud. People still believe in
gods and souls and specialness with little obvious
concern for countervailing science. They could well
adapt quite easily to the pseudocognitive world, at
least as far as philosophical qualms are concerned. 
You do not have to buy Freud’s explanation of the
unsettling effect of the uncanny in terms of the effort
the mind expends on repressing childish animism to
think that not worrying and going with the animistic
flow will make a world populated with communicative
pseudo­people a surprisingly comfortable one. People
may simultaneously recognise that something is not
alive and treat it as if it were. Some will take this too
far, forming problematic attachments that Freud
would have dubbed fetishistic. But only a few sensitive
souls will find themselves left behind staring into an
existential—but personal—abyss opened up by the
possibility that their seeming thought is all for naught.