April 22nd-28th 2023 Ukraine’s game plan

Researchers are increasingly worried about the risks posed by 
AI
s.
A big problem is that they are black boxes
American 
tv
network if 
AI
could wipe out
humanity, Geoff Hinton of the University
of Toronto, another 
AI
bigwig, replied that
it was “not inconceivable”.
There is no shortage of risks to preoccu­
py people. At the moment, much concern
is focused on “large language models”
(
LLM
s) such as Chat
GPT
, a chatbot devel­
oped by Open
AI
, a startup. Such models,
trained on enormous piles of text scraped
from the internet, can produce human­
Reasons to be fearful
Expected overall impact of advanced AI*
on humanity, 
probability of outcome according 
to median AI experts†, %
*High-level machine intelligence
†Published in NeurIPS and ICML, 2015 and 2021
Source: AI Impacts
Extremely bad
Bad
Neutral
Good
Extremely good
25
20
15
10
5
0
2022
2016
012

---

73
The Economist 
April 22nd 2023
Science & technology
duce the likelihood of producing harmful
content when given similar prompts in the
future. One obvious drawback of this
method is that humans themselves often
disagree about what counts as “appropri­
ate”. An irony, says one 
AI
researcher, is
that 
RLHF
also made Chat
GPT 
far more ca­
pable in conversation, and therefore
helped propel the 
AI
race. 
Another approach, borrowed from war­
gaming, is called “red­teaming”. Open
AI
worked with the Alignment Research Cen­
tre (
ARC
), a non­profit, to put its model
through a battery of tests. The red­teamer’s
job was to “attack” the model by getting it
to do something it should not, in the hope
of anticipating mischief in the real world.