QUOTED FROM NEWYORK TIMES
The people who were most
afraid of the risks of artificial intelligence decided they should be the ones
to build it. Then distrust fueled a spiraling competition.
Dec. 3, 2023
By Cade Metz, Karen Weise, Nico Grant and Mike Isaac
Reporting from San Francisco
Cade Metz is a technology reporter and the author of “Genius Makers: The
Mavericks Who Brought A.I. to Google, Facebook, and The World.” He covers
artificial intelligence, driverless cars, robotics, virtual reality and other
emerging areas. More about Cade Metz
Karen Weise writes about technology and is based in Seattle. Her coverage
focuses on Amazon and Microsoft, two of the most powerful companies in America. More about Karen Weise
Nico Grant is a technology reporter covering Google from San Francisco.
Previously, he spent five years at Bloomberg News, where he focused on Google
and cloud computing. More about Nico Grant
Mike Isaac is a technology correspondent for The Times based in San Francisco. He regularly covers Facebook and Silicon Valley. More about Mike Isaac
THE A.I. RACE
This is the first article in a series
about modern artificial intelligence
Elon Musk celebrated his
44th birthday in July 2015 at a three-day party thrown by his wife at a
California wine country resort dotted with cabins. It was family and friends
only, with children racing around the upscale property in Napa Valley
This was years before Twitter became Xand Tesla had a profitable year. Mr. Musk and his wife, Talulah Riley — an actress who played a beautiful but dangerous robot on HBO’s science fiction series “Westworld” — were a year from throwing in the towel on their second marriage. Larry Page, a party guest, was still the chief executive of Google. And artificial intelligence had pierced the public consciousness only a few years before, when it was used to identify cats on YouTube — with 16 percent accuracy
A.I. was the big topic
of conversation when Mr. Musk and Mr. Page sat down near a firepit beside a
swimming pool after dinner the first night. The two billionaires had been
friends for more than a decade, and Mr. Musk sometimes joked that he
occasionally crashed on Mr. Page’s sofa after a night playing video games
But the tone that clear
night soon turned contentious as the two debated whether artificial intelligence
would ultimately elevate humanity or destroy it
As the discussion
stretched into the chilly hours, it grew intense, and some of the more than 30
partyers gathered closer to listen. Mr. Page, hampered for more than a decade
by an unusual ailment in his vocal cords, described his vision of a digital utopia in a whisper. Humans would
eventually merge with artificially intelligent machines, he said. One day there
would be many kinds of intelligence competing for resources, and the best would
win
If that happens, Mr.
Musk said, we’re doomed. The machines will destroy humanity
With a rasp of frustration,
Mr. Page insisted his utopia should be pursued. Finally he called Mr. Musk a
“specieist,” a person who favors humans over the digital life-forms of the
future
That insult, Mr.
Musk said later, was “the
last straw”
Many in the crowd seemed
gobsmacked, if amused, as they dispersed for the night, and considered it just
another one of those esoteric debates that often break out at Silicon Valley
parties
But eight years later,
the argument between the two men seems prescient. The question of whether
artificial intelligence will elevate the world or destroy it — or at least inflict grave damage — has framed an ongoing debate
among Silicon Valley founders, chatbot users, academics, legislators and
regulators about whether the technology should be controlled or set free
That debate has pitted
some of the world’s richest men against one another: Mr. Musk, Mr. Page, Mark
Zuckerberg of Meta, the tech investor Peter Thiel, Satya Nadella of Microsoft
and Sam Altman of OpenAI. All have fought for a piece of the business — which
one day could be worth trillions of dollars — and the power to shape it
At the heart of this
competition is a brain-stretching paradox. The people who say they are most
worried about A.I. are among the most determined to create it and enjoy its
riches. They have justified their ambition with their strong belief that they
alone can keep A.I. from endangering Earth
Mr. Musk and Mr. Page
stopped speaking soon after the party that summer. A few weeks later, Mr. Musk
dined with Mr. Altman, who was then running a tech incubator, and several
researchers in a private room at the Rosewood hotel in Menlo Park, Calif., a
favored deal-making spot close to the venture capital offices of Sand Hill
Road
That dinner led to the
creation of a start-up called OpenAI later in the year. Backed by hundreds of
millions of dollars from Mr. Musk and other funders, the lab promised to
protect the world from Mr. Page’s vision
Thanks to its ChatGPT
chatbot, OpenAI has fundamentally changed the technology industry and has
introduced the world to the risks and potential of artificial intelligence.
OpenAI is valued at more than $80 billion, according to two people familiar
with the company’s latest funding round, though Mr. Musk and Mr. Altman’s
partnership didn’t make it. The two have since stopped speaking
“There is disagreement,
mistrust, egos,” Mr. Altman said. “The closer people are to being pointed in
the same direction, the more contentious the disagreements are. You see this in
sects and religious orders. There are bitter fights between the closest
people”
Last month, that
infighting came to OpenAI’s boardroom. Rebel board members tried to force out Mr. Altmanbecause, they believed, they could no longer trust him to build A.I. that
would benefit humanity. Over five chaotic daysOpenAI looked as if it were going to fall apart, until the board —
pressured by giant investors and employees who threatened to follow Mr. Altman
out the door — backed down
The drama inside OpenAI
gave the world its first glimpse of the bitter feuds among those who will
determine the future of A.I
But years before
OpenAI’s near meltdown, there was a little-publicized but ferocious competition
in Silicon Valley for control of the technology that is now quickly reshaping
the world, from how children are taught to how wars are fought. The New York
Times spoke with more than 80 executives, scientists and entrepreneurs, including
two people who attended Mr. Musk’s birthday party in 2015, to tell that story
of ambition, fear and money
The Birth of DeepMind
Five years before the
Napa Valley party and two before the cat breakthrough on YouTube, Demis
Hassabis, a 34-year-old neuroscientist, walked into a cocktail party at Peter
Thiel’s San Francisco townhouse and realized he’d hit pay dirt. There in Mr.
Thiel’s living room, overlooking the city’s Palace of Fine Arts and a swan
pond, was a chess board. Dr. Hassabis had once been the second-best player in
the world in the under-14 category
“I was preparing for
that meeting for a year,” Dr. Hassabis said. “I thought that would be my unique
hook in: I knew that he loved chess”
In 2010, Dr. Hassabis
and two colleagues, who all lived in Britain, were looking for money to start
building “artificial general intelligence,” or A.G.I., a machine that could do
anything the brain could do. At the time, few people were interested in A.I.
After a half century of research, the artificial intelligence field had failed
to deliver anything remotely close to the human brain.
Still, some scientists and thinkers had become fixated on the downsides of A.I. Many, like the three young men from Britain, had a connection to Eliezer Yudkowsky, an internet philosopher and self-taught A.I. researcher. Mr. Yudkowsky was a leader in a community of people who called themselves Rationalists or, in later years, effective altruists
They believed that A.I.
could find a cure for cancer or solve climate change, but they worried that A.I.
bots might do things their creators had not intended. If the machines became
more intelligent than humans, the Rationalists argued, the machines could turn
on their creators
Mr. Thiel had become
enormously wealthy through an early investment in Facebook and through his work
with Mr. Musk in the early days of PayPal. He had developed a fascination
with the singularity, a trope of science fiction that describes the moment when intelligent
technology can no longer be controlled by humanity
With funding from Mr.
Thiel, Mr. Yudkowsky had expanded his A.I. lab and created an annual conference
on the singularity. Years before, one of Dr. Hassabis’s two colleagues had met
Mr. Yudkowsky, and he snagged them speaking spots at the conference, ensuring
they’d be invited to Mr. Thiel’s party.
Mr. Yudkowsky introduced Dr. Hassabis to Mr. Thiel. Dr. Hassabis assumed that lots of people at the party would be trying to squeeze their host for money. His strategy was to arrange another meeting. There was a deep tension between the bishop and the knight, he told Mr. Thiel. The two pieces carried the same value, but the best players understood that their strengths were vastly different
It worked. Charmed, Mr.
Thiel invited the group back the next day, where they gathered in the kitchen.
Their host had just finished his morning workout and was still sweating in a
shiny tracksuit. A butler handed him a Diet Coke. The three made their pitch,
and soon Mr. Thiel and his venture capital firm agreed to put 1.4 million
British pounds (roughly $2.25 million) into their start-up. He was their first
major investor
They named their company
DeepMind, a nod to “deep learning,” a way for A.I. systems to learn skills by
analyzing large amounts of data; to neuroscience; and to the Deep Thought
supercomputer from the sci-fi novel “The Hitchhiker’s Guide to the Galaxy.” By
the fall of 2010, they were building their dream machine. They wholeheartedly
believed that because they understood the risks, they were uniquely positioned
to protect the world
“I don’t see this as a
contradictory position,” said Mustafa Suleyman, one of the three DeepMind
founders. “There are huge benefits to come from these technologies. The goal is
not to eliminate them or pause their development. The goal is to mitigate the
downsides.”
Having won over Mr.
Thiel, Dr. Hassabis worked his way into Mr. Musk’s orbit. About two years later,
they met at a conference organized by Mr. Thiel’s investment fund, which had
also put money into Mr. Musk’s company SpaceX. Dr. Hassabis secured a tour of
SpaceX headquarters. Afterward, with rocket hulls hanging from the ceiling, the
two men lunched in the cafeteria and talked
Mr. Musk explained that
his plan was to colonize Mars to escape overpopulation and other dangers on
Earth. Dr. Hassabis replied that the plan would work — so long as
superintelligent machines didn’t follow and destroy humanity on Mars, too
Mr. Musk was speechless.
He hadn’t thought about that particular danger. Mr. Musk soon invested in
DeepMind alongside Mr. Thiel so he could be closer to the creation of this
technology
Flush with cash, DeepMind hired researchers who specialized in neural networks, complex algorithms created in the image of the human brain. A neural network is essentially a giant mathematical system that spends days, weeks or even months identifying patterns in large amounts of digital data. First developed in the 1950s, these systems could learn to handle tasks on their own. After analyzing names and addresses scribbled on hundreds of envelopes, for instance, they could read handwritten text
DeepMind took the
concept further. It built a system that could learn to play classic Atari games like Space Invaders, Pong and Breakout to illustrate what was
possible
This got the attention
of another Silicon Valley powerhouse, Google, and specifically Larry Page. He
saw a demonstration of Deep Mind’s machine playing Atari games. He wanted in
The Talent Auction
In the fall of 2012, Geoffrey Hinton, a 64-year-old professor at the University of Toronto, and two graduate students published a research paper that showed the world what A.I. could do. They trained a neural network to recognize common objects like flowers, dogs and cars
Scientists were
surprised by the accuracy of the technology built by Dr. Hinton and his
students. One who took particular notice was Yu Kai, an A.I. researcher who had
met Dr. Hinton at a research conference and had recently started working for
Baidu, the giant Chinese internet company. Baidu offered Dr. Hinton and his
students $12 million to join the company in Beijing, according to three people
familiar with the offer
Dr. Hinton turned Baidu
down, but the money got his attention
The Cambridge-educated British
expatriate had spent most of his career in academia, except for occasional
stints at Microsoft and Google, and was not especially driven by money. But he
had a neurodivergent child, and the money would mean financial security
“We did not know how much
we were worth,” Dr. Hinton said. He consulted lawyers and experts on
acquisitions and came up with a plan: “We would organize an auction, and we
would sell ourselves.” The auction would take place during an annual A.I.
conference at the Harrah’s hotel and casino on Lake Tahoe
Big Tech took notice.
Google, Microsoft, Baidu and other companies were beginning to believe that
neural networks were a path to machines that could not only see, but hear,
write, talk and — eventually — think
Mr. Page had seen similar
technology at Google Brain, his company’s A.I. lab, and he thought Dr. Hinton’s
research could elevate his scientists’ work. He gave Alan Eustace, Google’s
senior vice president of engineering, what amounted to a blank check to hire
any A.I. expertise he needed
Mr. Eustace and Jeff
Dean, who led the Brain lab, flew to Lake Tahoe and took Dr. Hinton and his
students out to dinner at a steakhouse inside the hotel the night before the
auction. The smell of old cigarettes was overpowering, Dr. Dean recalled. They
made the case for coming to work at Google
The next day, Dr. Hinton
ran the auction from his hotel room. Because of an old back injury, he rarely
sat down. He turned a trash can upside down on a table, put his laptop on top
and watched the bids roll in over the next two days
Google made an offer. So
did Microsoft. DeepMind quickly bowed out as the price went up. The industry
giants pushed the bids to $20 million and then $25 million, according to
documents detailing the auction. As the price passed $30 million, Microsoft
quit, but it rejoined the bidding at $37 million
“We felt like we were in
a movie,” Dr. Hinton said
Then Microsoft dropped
out a second time. Only Baidu and Google were left, and they pushed the bidding
to $42 million, $43 million. Finally, at $44 million, Dr. Hinton and his
students stopped the auction. The bids were still climbing, but they wanted to
work for Google. And the money was staggering
It was an unmistakable
sign that deep-pocketed companies were determined to buy the most talented A.I.
researchers — which was not lost on Dr. Hassabis at DeepMind. He had always
told his employees that DeepMind would remain an independent company. That was,
he believed, the best way to ensure its technology didn’t turn into something
dangerous
But as Big Tech entered
the talent race, he decided he had no choice: It was time to sell
By the end of 2012,
Google and Facebook were angling to acquire the London lab, according to three
people familiar with the matter. Dr. Hassabis and his co-founders insisted on
two conditions: No DeepMind technology could be used for military purposes, and
its A.G.I. technology must be overseen by an independent board of technologists
and ethicists
Google offered $650
million. Mark Zuckerberg of Facebook offered a bigger payout to DeepMind’s
founders, but would not agree to the conditions. DeepMind sold to Google
Mr. Zuckerberg was
determined to build an A.I. lab of his own. He hired Yann LeCun, a French
computer scientist who had also done pioneering A.I. research, to run it. A
year after Dr. Hinton’s auction, Mr. Zuckerberg and Dr. LeCun flew to Lake
Tahoe for the same A.I. conference. While padding around a suite at the
Harrah’s casino in his socks, Mr. Zuckerberg personally interviewed top
researchers, who were soon offered millions of dollars in salary and stock
A.I. was once laughed
off. Now the richest men in Silicon Valley were shelling out billions to keep
from being left behind
The Lost Ethics Board
When Mr. Musk invested
in DeepMind, he broke his own informal rule — that he would not invest in any
company he didn’t run himself. The downsides of his decision were already
apparent when, only a month or so after his birthday spat with Mr. Page, he
again found himself face to face with his former friend and fellow billionaire
The occasion was the
first meeting of DeepMind’s ethics board, on Aug. 14, 2015. The board had been
set up at the insistence of the start-up’s founders to ensure that their
technology did no harm after the sale. The members convened in a conference
room just outside Mr. Musk’s office at SpaceX, with a window looking out onto
his rocket factory, according to three people familiar with the meeting.
But that’s where Mr.
Musk’s control ended. When Google bought DeepMind, it bought the whole thing.
Mr. Musk was out. Financially he had come out ahead, but he was unhappy.
Three Google executives
now firmly in control of DeepMind were there: Mr. Page; Sergey Brin, a Google
co-founder and Tesla investor; and Eric Schmidt, Google’s chairman. Among the
other attendees were Reid Hoffman, another PayPal founder, and Toby Ord, an
Australian philosopher studying “existential risk.”
The DeepMind founders reported that they were pushing ahead with their work, but that they were aware the technology carried serious risks
Mr. Suleyman, the
DeepMind co-founder, gave a presentation called “The Pitchforkers Are Coming.”
A.I. could lead to an explosion in disinformation, he told the board. He
fretted that as the technology replaced countless jobs in the coming years, the
public would accuse Google of stealing their livelihoods. Google would need to
share its wealth with the millions who could no longer find work and provide a
“universal basic income,” he argued
Mr. Musk agreed. But it
was pretty clear that his Google guests were not prepared to embark on a
redistribution of (their) wealth. Mr. Schmidt said he thought the worries were
completely overblown. In his usual whisper, Mr. Page agreed. A.I. would create
more jobs than it took away, he argued
Eight months later,
DeepMind had a breakthrough that stunned the A.I community and the world. A
DeepMind machine called AlphaGo beat one of the world’s best players at the ancient game
of Go. The game, streamed over the
internet, was watched by 200 million people across the globe. Most researchers
had assumed that A.I. needed another 10 years to muster the ingenuity to do
that.
Rationalists, effective
altruists and others who worried about the risks of A.I. claimed the computer’s
win validated their fears
“This is another
indication that A.I. is progressing faster than even many experts anticipated,”
Victoria Krakovna, who would soon join DeepMind as an “A.I. safety” researcher,
wrote in a blog post
DeepMind’s founders were
increasingly worried about what Google would do with their inventions. In 2017,
they tried to break away from the company. Google responded by increasing the
salaries and stock award packages of the DeepMind founders and their staff.
They stayed put
The ethics board never
had a second meeting
The Breakup
Convinced that Mr.
Page’s optimistic view of A.I. was dead wrong, and angry at his loss of
DeepMind, Mr. Musk built his own lab.
OpenAI was founded in
late 2015, just a few months after he met with Sam Altman at the Rosewood hotel
in Silicon Valley. Mr. Musk pumped money into the lab, and his former PayPal
buddies, Mr. Hoffman and Mr. Thiel, came along for the ride. The three men and
others pledged to put $1 billion into the project, which Mr. Altman, who was 30
at the time, would help run. To get them started, they poached Ilya Sutskever
from Google. (Dr. Sutskever was one of the graduate students Google “bought” in
Dr. Hinton’s auction.)
Initially, Mr. Musk
wanted to operate OpenAI as a nonprofit, free from the economic incentives that
were driving Google and other corporations. But by the time Google wowed the
tech community with its Go stunt, Mr. Musk was changing his mind about how it
should be run. He desperately wanted OpenAI to invent something that would
capture the world’s imagination and close the gap with Google, but it wasn’t
getting the job done as a nonprofit.
In late 2017, he hatched
a plan to wrest control of the lab from Mr. Altman and the other founders and
transform it into a commercial operation that would join forces with Tesla and
rely on supercomputers the car company was developing, according to four people
familiar with the matter
When Mr. Altman and
others pushed back, Mr. Musk quit and said he would focus on his own A.I. work at Tesla. In February 2018, he announced his departure to OpenAI’s staff on the top
floor of the start-up’s offices in a converted truck factory, three people who
attended the meeting said. When he said that OpenAI needed to move faster, one
researcher retorted at the meeting that Mr. Musk was being reckless
Mr. Musk called the
researcher a “jackass” and stormed out, taking his deep pockets with him
OpenAI suddenly needed new financing in a hurry. Mr. Altman flew to Sun Valley for a conference and ran into Satya Nadella, Microsoft’s chief executive. A tie-up seemed natural. Mr. Altman knew Microsoft’s chief technology officer, Kevin Scott. Microsoft had bought LinkedIn from Mr. Hoffman, an OpenAI board member. Mr. Nadella told Mr. Scott to get it done. The deal closed in 2019
Mr. Altman and OpenAI
had formed a for-profit company under the original nonprofit, they had $1
billion in fresh capital, and Microsoft had a new way to build artificial
intelligence into its vast cloud computing service
Not everyone inside
OpenAI was happy
Dario Amodei, a
researcher with ties to the effective altruist community, had been on hand at
the Rosewood hotel when OpenAI was born. Dr. Amodei, who endlessly twisted his
curls between his fingers as he talked, was leading the lab’s efforts to build
a neural network called a large language model that could learn from enormous
amounts of digital text. By analyzing countless Wikipedia articles, digital
books and message boards, it could generate text on its own. It also had the
unfortunate habit of making things up. It was called GPT-3, and it was released
in the summer of 2020
Researchers inside
OpenAI, Google and other companies thought this rapidly improving technology
could be a path to A.G.I
But Dr. Amodei was
unhappy about the Microsoft deal because he thought it was taking OpenAI in a
really commercial direction. He and other researchers went to the board to try
to push Mr. Altman out, according to five people familiar with the matter.
After they failed, they left. Like DeepMind’s founders before them, they
worried that their new corporate overlords would favor commercial interests
over safety
In 2021, the group of
about 15 engineers and scientists created a new lab called Anthropic. The plan
was to build A.I. the way the effective altruists thought it should done — with
very tight controls
“There was no attempt to
remove Sam Altman from OpenAI by the co-founders of Anthropic,” said an
Anthropic spokeswoman, Sally Aldous. “The co-founders themselves came to the
conclusion that they wished to depart OpenAI to start their own company, made
this known to OpenAI’s leadership, and over several weeks negotiated an exit on
mutually agreeable terms”
Anthropic accepted a $4
billion investment from Amazon and another $2 billion from Google two years
later
The Reveal
After OpenAI received another $2 billion from Microsoft, Mr. Altman and another senior executive, Greg Brockman, visited Bill Gates at his sprawling mansion on the shores of Lake Washington, outside Seattle. The Microsoft founder was no longer involved in the company day to day but kept in regular touch with its executives
Over dinner, Mr. Gates
told them he doubted that large language models could work. He would stay
skeptical, he said, until the technology performed a task that required
critical thinking — passing an A.P. biology test, for instance.
Five months later, on
Aug. 24, 2022, Mr. Altman and Mr. Brockman returned and brought along an OpenAI
researcher named Chelsea Voss. Ms. Voss had been a medalist in an international
biology Olympiad as a high schooler. Mr. Nadella and other Microsoft executives
were there, too.
On a huge digital
display on a stand outside Mr. Gates’s living room, the OpenAI crew presented a
technology called GPT-4.
Mr. Brockman gave the
system a multiple-choice advanced biology test, and Ms. Voss graded the
answers. The first question involved polar molecules, groups of atoms with a
positive charge at one end and a negative charge at the other. The system
answered correctly and explained its choice. “It was only trained to provide an
answer,” Mr. Brockman said. “The conversational nature kind of fell out, almost
magically.” In other words, it was doing things they hadn’t really designed it
to do
There were 60 questions.
GPT-4 got only one answer wrong
Mr. Gates sat up in his
chair, his eyes opened wide. In 1980, he had a similar reaction when
researchers showed him the graphical user interface that became the basis for
the modern personal computer. He thought GPT was that revolutionary
By October, Microsoft
was adding the technology across its online services, including its Bing search
engine. And two months later OpenAI released its ChatGPT chatbot, which is now
used by 100 million people every week.
OpenAI had beat the
effective altruists at Anthropic. Mr. Page’s optimists at Google scurried to
release their own chatbot, Bard, but were widely perceived to have lost the race
to OpenAI. Three months after ChatGPT’s release, Google stock was down 11
percent. Mr. Musk was nowhere to be found
But it was just the beginning
نقلا عن نيويورك تايمز
قرر الأشخاص الذين كانوا أكثر خوفا من
مخاطر الذكاء الاصطناعي أنهم يجب أن يكونوا هم من يبنونه. ثم أدى انعدام الثقة
إلى تأجيج المنافسة المتصاعدة.
3 ديسمبر، 2023
بقلم كيد ميتز وكارين وايز ونيكو غرانت ومايك إسحاق
إعداد
التقارير من سان فرانسيسكو
كيد ميتز هو مراسل تقني ومؤلف كتاب "صناع
العباقرة: المنشقون الذين جلبوا الذكاء الاصطناعي إلى Google و Facebook و The
World". وهو يغطي الذكاء الاصطناعي والسيارات بدون سائق والروبوتات والواقع
الافتراضي وغيرها من المجالات الناشئة. المزيد حول كيد ميتز
تكتب كارين وايز عن التكنولوجيا ومقرها في سياتل. تركز
تغطيتها على أمازون ومايكروسوفت ، وهما من أقوى الشركات في أمريكا. المزيد حول كارين وايز
نيكو غرانت هو مراسل تقني يغطي Google من سان
فرانسيسكو. في السابق ، أمضى خمس سنوات في بلومبرج نيوز ، حيث ركز على Google
والحوسبة السحابية. المزيد حول نيكو جرانت
مايك إسحاق هو مراسل تقني لصحيفة التايمز ومقره في
سان فرانسيسكو. وهو يغطي بانتظام فيسبوك ووادي السيليكون. المزيد حول مايك إسحاق
ترجمة – محمد السيد درويش
سباق الذكاء الاصطناعي
هذه هي المقالة الأولى في سلسلة حول
الذكاء الاصطناعي الحديث.
احتفل إيلون ماسك بعيد
ميلاده ال 44 في يوليو 2015 في حفل أقامته زوجته لمدة ثلاثة أيام في منتجع ريفي
للنبيذ في كاليفورنيا تنتشر فيه الكبائن. كانت العائلة والأصدقاء فقط ، حيث يتسابق
الأطفال حول العقار الراقي في وادي نابا.
كان هذا قبل سنوات من أن يصبح Twitter Xوكان لدى Tesla عام مربح. كان ماسك وزوجته تالولا رايلي -
الممثلة التي لعبت دور روبوت جميل ولكنه خطير
في سلسلة الخيال العلمي
"Westworld" على HBO - على بعد عام من إلقاء المنشفة في زواجهما الثاني. لاري بيج ، ضيف الحفلة
، كان لا يزال الرئيس التنفيذي لشركة Google. وكان الذكاء الاصطناعي قد اخترق
الوعي العام قبل بضع سنوات فقط ، عندما تم استخدامه لتحديد القطط على YouTube - بدقة 16 في المائة.
كان الذكاء الاصطناعي هو
الموضوع الكبير للمحادثة عندما جلس السيد ماسك والسيد بيج بالقرب من حفرة نار
بجانب حمام سباحة بعد العشاء في الليلة الأولى. كان المليارديران صديقين لأكثر من
عقد من الزمان ، وكان السيد ماسك يمزح أحيانا بأنه يتحطم أحيانا على أريكة السيد
بيج بعد ليلة من لعب ألعاب الفيديو.
لكن سرعان ما تحولت
النبرة في تلك الليلة الصافية إلى جدل حيث ناقش الاثنان ما إذا كان الذكاء
الاصطناعي سيرفع البشرية في النهاية أو يدمرها.
مع امتداد المناقشة إلى
الساعات الباردة ، اشتدت ، وتجمع بعض أكثر من 30 من أعضاء الحفلات للاستماع. وصف
السيد بيج ، الذي أعاقه لأكثر من عقد من الزمان مرض غير عادي في
أحباله الصوتية ، رؤيته لليوتوبيا
الرقمية في الهمس. وقال إن البشر سيندمجون في نهاية المطاف مع آلات الذكاء
الاصطناعي. في يوم من الأيام سيكون هناك العديد من أنواع الذكاء التي تتنافس على
الموارد ، وسيفوز الأفضل.
إذا حدث ذلك ، قال السيد
ماسك ، فنحن محكوم علينا بالفشل. الآلات ستدمر البشرية.
مع شعور من الإحباط ، أصر
السيد بيج على ضرورة متابعة المدينة الفاضلة. وأخيرا وصف ماسك بأنه
"متخصص" ، وهو شخص يفضل البشر على أشكال الحياة الرقمية في المستقبل.
وقال ماسك في وقت لاحق إن هذه الإهانة كانت "القشة الأخيرة".
بدا الكثيرون في الحشد
مصدومين ، إذا كانوا مستمتعين ، وهم يتفرقون طوال الليل ، واعتبروها مجرد واحدة
أخرى من تلك المناقشات الباطنية التي غالبا ما تندلع في حفلات وادي السيليكون.
لكن بعد ثماني سنوات،
يبدو الجدال بين الرجلين متبصرا. أثارت مسألة ما إذا كان الذكاء الاصطناعي سيرفع
العالم أو يدمره - أو
على الأقل يلحق أضرارا جسيمة - نقاشا مستمرا بين مؤسسي وادي السيليكون
ومستخدمي روبوتات الدردشة والأكاديميين والمشرعين والمنظمين حول ما إذا كان ينبغي
التحكم في التكنولوجيا أو تحريرها.
حرض هذا النقاش بعضا
من أغنى الرجال في العالم ضد بعضهم البعض: السيد ماسك، والسيد بيج، ومارك زوكربيرج
من ميتا، والمستثمر التكنولوجي بيتر ثيل، وساتيا ناديلا من مايكروسوفت، وسام
ألتمان من أوبن إيه آي. لقد قاتلوا جميعا من أجل جزء من العمل - الذي يمكن أن
يساوي يوما ما تريليونات الدولارات - والقدرة على تشكيله.
في قلب هذه المنافسة هناك
مفارقة تمتد الدماغ. الأشخاص الذين يقولون إنهم أكثر قلقا بشأن الذكاء الاصطناعي
هم من بين الأكثر تصميما على إنشائه والاستمتاع بثرواته. لقد برروا طموحهم
بإيمانهم القوي بأنهم وحدهم القادرون على منع الذكاء الاصطناعي من تعريض الأرض
للخطر.
توقف السيد ماسك والسيد
بيج عن التحدث بعد فترة وجيزة من الحفلة في ذلك الصيف. بعد بضعة أسابيع، تناول
ماسك العشاء مع ألتمان، الذي كان يدير آنذاك حاضنة تكنولوجية، والعديد من الباحثين
في غرفة خاصة في فندق روزوود في مينلو بارك، كاليفورنيا، وهو مكان مفضل لعقد
الصفقات بالقرب من مكاتب رأس المال الاستثماري في طريق ساند هيل.
أدى هذا العشاء إلى إنشاء
شركة ناشئة تسمى OpenAI في وقت لاحق من العام. بدعم من مئات الملايين من الدولارات
من السيد ماسك والممولين الآخرين ، وعد المختبر بحماية العالم من رؤية السيد بيج.
بفضل روبوت الدردشة
ChatGPT ، غيرت OpenAI صناعة التكنولوجيا بشكل جذري وقدمت للعالم مخاطر وإمكانات
الذكاء الاصطناعي. تقدر قيمة OpenAI بأكثر من 80 مليار دولار ، وفقا لشخصين مطلعين
على جولة التمويل الأخيرة للشركة ، على الرغم من أن شراكة السيد Musk والسيد
Altman لم تنجح. ومنذ ذلك الحين توقف الاثنان عن الكلام.
"هناك
خلاف ، عدم ثقة ، غرور" ، قال السيد ألتمان. "كلما اقترب الناس من
الإشارة إليهم في نفس الاتجاه ، زادت الخلافات المثيرة للجدل. ترى هذا في الطوائف
والأوامر الدينية. هناك معارك مريرة بين أقرب الناس".
في الشهر الماضي ، جاء
هذا الاقتتال الداخلي إلى غرفة اجتماعات OpenAI. حاول أعضاء مجلس الإدارة
المتمردون إجبار السيد ألتمان على
الخروجلأنهم ، كما اعتقدوا ، لم
يعد بإمكانهم الوثوق به لبناء الذكاء الاصطناعي الذي من شأنه أن يفيد البشرية. على مدى خمسة أيام من
الفوضىبدت OpenAI كما لو أنها
ستنهار ، حتى تراجع مجلس الإدارة - تحت ضغط من المستثمرين والموظفين العملاقين
الذين هددوا بمتابعة السيد ألتمان خارج الباب.
أعطت الدراما داخل OpenAI
للعالم أول لمحة عن الخلافات المريرة بين أولئك الذين سيحددون مستقبل الذكاء
الاصطناعي.
ولكن قبل سنوات من
الانهيار الوشيك ل OpenAI ، كانت هناك منافسة قليلة الدعاية ولكنها شرسة في وادي
السيليكون للسيطرة على التكنولوجيا التي تعيد الآن تشكيل العالم بسرعة ، من كيفية
تعليم الأطفال إلى كيفية خوض الحروب. تحدثت صحيفة نيويورك تايمز مع أكثر من 80
مديرا تنفيذيا وعالما ورائد أعمال ، بما في ذلك شخصان حضرا حفل عيد ميلاد السيد
ماسك في عام 2015 ، لرواية قصة الطموح والخوف والمال.
ولادة ديب مايند
قبل خمس سنوات من حفلة
وادي نابا وقبل عامين من اختراق القط على YouTube ، دخل ديميس هاسابيس ، عالم
الأعصاب البالغ من العمر 34 عاما ، إلى حفل كوكتيل في منزل بيتر ثيل في سان
فرانسيسكو وأدرك أنه سيصل إلى أجر ترابي. هناك في غرفة معيشة السيد ثيل ، المطلة
على قصر الفنون الجميلة في المدينة وبركة البجع ، كانت هناك رقعة شطرنج. كان
الدكتور حسابيس ثاني أفضل لاعب في العالم في فئة أقل من 14 عاما.
"كنت
أستعد لهذا الاجتماع لمدة عام"، قال الدكتور حسابيس. "اعتقدت أن هذا
سيكون خطاف فريد لي: كنت أعرف أنه يحب الشطرنج."
في عام 2010، كان الدكتور
حسابيس واثنان من زملائه، الذين يعيشون جميعا في بريطانيا، يبحثون عن المال للبدء
في بناء "الذكاء الاصطناعي العام"، أو A.G.I.، وهي آلة يمكنها فعل أي
شيء يمكن للدماغ القيام به. في ذلك الوقت ، كان عدد قليل من الناس مهتمين بالذكاء
الاصطناعي. بعد نصف قرن من البحث ، فشل مجال الذكاء الاصطناعي في تقديم أي شيء
قريب من الدماغ البشري.
ومع ذلك ، أصبح بعض
العلماء والمفكرين يركزون على الجوانب السلبية للذكاء الاصطناعي. كان للكثيرين ،
مثل الشبان الثلاثة من بريطانيا ، صلة بإليعازر يودكوفسكي ، فيلسوف الإنترنت وباحث
الذكاء الاصطناعي العصامي. كان السيد يودكوفسكي قائدا في مجتمع من الناس الذين
أطلقوا على أنفسهم اسم العقلانيين أو ، في السنوات اللاحقة ، الإيثار الفعال.
لقد اعتقدوا أن الذكاء
الاصطناعي يمكن أن يجد علاجا للسرطان أو يحل مشكلة تغير المناخ ، لكنهم قلقون من
أن روبوتات الذكاء الاصطناعي قد تفعل أشياء لم يقصدها منشئوها. إذا أصبحت الآلات
أكثر ذكاء من البشر ، جادل العقلانيون ، يمكن للآلات أن تنقلب على مبدعيها.
أصبح السيد ثيل ثريا
للغاية من خلال الاستثمار المبكر في Facebook ومن خلال عمله مع السيد Musk في
الأيام الأولى من PayPal. لقد طور افتتانا بالتفرد ، وهو مجاز من الخيال العلمي يصف اللحظة
التي لم يعد فيها بإمكان البشرية التحكم في التكنولوجيا الذكية.
بتمويل من السيد ثيل ،
قام السيد يودكوفسكي بتوسيع مختبره للذكاء الاصطناعي وأنشأ مؤتمرا سنويا حول
التفرد. قبل سنوات، التقى أحد زميلي الدكتور حسابيس بالسيد يودكوفسكي، وقام
باختيارهما في أماكن للتحدث في المؤتمر، لضمان دعوتهما إلى حفلة السيد ثيل.
قدم السيد يودكوفسكي الدكتور حسابيس إلى السيد ثيل. افترض الدكتور حسابيس أن الكثير من الناس في الحفلة سيحاولون الضغط على مضيفهم مقابل المال. كانت استراتيجيته هي ترتيب اجتماع آخر. كان هناك توتر عميق بين الأسقف والفارس ، كما أخبر السيد ثيل. تحمل القطعتان نفس القيمة ، لكن أفضل اللاعبين أدركوا أن نقاط قوتهم كانت مختلفة إلى حد كبير.
إنه كان مجديًا. دعا
السيد ثيل المجموعة إلى العودة في اليوم التالي ، حيث اجتمعوا في المطبخ. كان
مضيفهم قد أنهى لتوه تمرينه الصباحي وكان لا يزال يتعرق في بدلة رياضية لامعة.
سلمه كبير الخدم دايت كوكاكولا. قدم الثلاثة عرضهم ، وسرعان ما وافق السيد ثيل
وشركته لرأس المال الاستثماري على وضع 1.4 مليون جنيه إسترليني (حوالي 2.25 مليون
دولار) في شركتهم الناشئة. كان أول مستثمر رئيسي لهم.
أطلقوا على شركتهم اسم
DeepMind ، في إشارة إلى "التعلم العميق" ، وهي طريقة لأنظمة الذكاء
الاصطناعي لتعلم المهارات من خلال تحليل كميات كبيرة من البيانات. إلى علم
الأعصاب. وإلى الكمبيوتر العملاق Deep Thought من رواية الخيال العلمي "دليل
المسافر إلى المجرة". بحلول خريف عام 2010 ، كانوا يبنون آلة أحلامهم. لقد اعتقدوا
بكل إخلاص أنه نظرا لأنهم يفهمون المخاطر ، فإنهم في وضع فريد لحماية العالم.
"لا
أرى هذا موقفا متناقضا" ، قال مصطفى سليمان ، أحد مؤسسي DeepMind الثلاثة.
"هناك فوائد ضخمة تأتي من هذه التقنيات. الهدف ليس القضاء عليها أو إيقاف
تطورها. الهدف هو التخفيف من الجوانب السلبية".
بعد فوزه على السيد ثيل ،
شق الدكتور حسابيس طريقه إلى مدار السيد ماسك. وبعد حوالي عامين، التقيا في مؤتمر
نظمه صندوق الاستثمار التابع للسيد ثيل، والذي وضع أيضا أموالا في شركة سبيس إكس
التي يملكها ماسك. قام الدكتور حسابيس بجولة في مقر سبيس إكس. بعد ذلك، مع هياكل
الصواريخ المتدلية من السقف، تناول الرجلان الغداء في الكافتيريا وتحدثا.
وأوضح ماسك أن خطته كانت
استعمار المريخ للهروب من الاكتظاظ السكاني والمخاطر الأخرى على الأرض. أجاب
الدكتور حسابيس أن الخطة ستنجح - طالما أن الآلات فائقة الذكاء لا تتبع وتدمر البشرية
على المريخ أيضا.
كان السيد ماسك عاجزا عن
الكلام. لم يفكر في هذا الخطر بالذات. سرعان ما استثمر السيد ماسك في DeepMind
جنبا إلى جنب مع السيد Thiel حتى يكون أقرب إلى إنشاء هذه التكنولوجيا.
استأجرت DeepMind ،
المتدفقة بالمال ، باحثين متخصصين في الشبكات العصبية ، وهي خوارزميات معقدة تم إنشاؤها على
صورة الدماغ البشري. الشبكة العصبية هي في الأساس نظام رياضي عملاق يقضي أياما أو
أسابيع أو حتى شهورا في تحديد الأنماط بكميات كبيرة من البيانات الرقمية. وضعت
لأول مرة في خمسينيات القرن العشرين ، يمكن لهذه الأنظمة تعلم كيفية التعامل مع
المهام من تلقاء نفسها. بعد تحليل الأسماء والعناوين المكتوبة على مئات المغلفات ،
على سبيل المثال ، يمكنهم قراءة النص المكتوب بخط اليد.
أخذت ديب مايند المفهوم
إلى أبعد من ذلك. قامت ببناء نظام يمكنه تعلم لعب ألعاب Atari الكلاسيكية مثل Space Invaders و Pong و Breakout
لتوضيح ما هو ممكن.
جذب هذا انتباه قوة أخرى
في وادي السيليكون ، Google ، وتحديدا Larry Page. رأى عرضا لآلة ديب مايند وهي
تلعب ألعاب أتاري. أراد الدخول.
مزاد المواهب
في خريف عام 2012 ، نشر
جيفري هينتون ، الأستاذ البالغ من العمر 64 عاما في جامعة تورنتو ، واثنان من طلاب
الدراسات العليا ورقة بحثية أظهرت للعالم ما يمكن أن يفعله الذكاء الاصطناعي.
قاموا بتدريب شبكة عصبية للتعرف على الأشياء الشائعة مثل
الزهور والسيارات.
فوجئ العلماء بدقة
التكنولوجيا التي بناها الدكتور هينتون وطلابه. أحد الذين انتبهوا بشكل خاص كان يو
كاي ، باحث الذكاء الاصطناعي الذي التقى بالدكتور هينتون في مؤتمر بحثي وبدأ مؤخرا
العمل في شركة بايدو ، شركة الإنترنت الصينية العملاقة. عرضت بايدو على الدكتور
هينتون وطلابه 12 مليون دولار للانضمام إلى الشركة في بكين ، وفقا لثلاثة أشخاص
مطلعين على العرض.
رفض الدكتور هينتون بايدو
، لكن المال جذب انتباهه.
قضى المغترب البريطاني
الذي تلقى تعليمه في كامبريدج معظم حياته المهنية في الأوساط الأكاديمية ،
باستثناء فترات عرضية في Microsoft و Google ، ولم يكن مدفوعا بشكل خاص بالمال.
لكن كان لديه طفل متشعب عصبيا ، والمال يعني الأمن المالي.
قال الدكتور هينتون:
"لم نكن نعرف كم كنا نستحق". استشار المحامين والخبراء في عمليات
الاستحواذ وتوصل إلى خطة: "سننظم مزادا ، وسنبيع أنفسنا". سيقام المزاد
خلال مؤتمر سنوي للذكاء الاصطناعي في فندق وكازينو Harrah على بحيرة تاهو.
لاحظت شركات التكنولوجيا
الكبرى. بدأت غوغل ومايكروسوفت وبايدو وغيرها من الشركات تعتقد أن الشبكات العصبية
كانت طريقا إلى الآلات التي لا تستطيع فقط أن ترى ، ولكن تسمع وتكتب وتتحدث - وفي
النهاية - تفكر.
كان السيد بيج قد رأى
تقنية مماثلة في Google Brain ، مختبر الذكاء الاصطناعي التابع لشركته ، وكان
يعتقد أن أبحاث الدكتور هينتون يمكن أن ترفع من عمل علمائه. أعطى آلان يوستاس ،
نائب الرئيس الأول للهندسة في Google ، ما يرقى إلى شيك على بياض لتوظيف أي خبرة
في الذكاء الاصطناعي يحتاجها.
سافر السيد يوستاس وجيف
دين ، اللذان قادا مختبر الدماغ ، إلى بحيرة تاهو وأخذا الدكتور هينتون وطلابه
لتناول العشاء في مطعم ستيك هاوس داخل الفندق في الليلة التي سبقت المزاد. كانت
رائحة السجائر القديمة طاغية ، كما يتذكر الدكتور دين. لقد قدموا قضية القدوم
للعمل في Google.
في اليوم التالي ، أدار
الدكتور هينتون المزاد من غرفته في الفندق. بسبب إصابة قديمة في الظهر ، نادرا ما
جلس. قلب سلة المهملات رأسا على عقب على طاولة ، ووضع جهاز الكمبيوتر المحمول
الخاص به في الأعلى وشاهد العطاءات تتدفق خلال اليومين التاليين.
قدمت جوجل عرضا. وكذلك
فعلت مايكروسوفت. سرعان ما انحنى DeepMind مع ارتفاع السعر. دفع عمالقة الصناعة
العطاءات إلى 20 مليون دولار ثم 25 مليون دولار ، وفقا للوثائق التي تفصل المزاد.
عندما تجاوز السعر 30 مليون دولار ، استقالت مايكروسوفت ، لكنها انضمت مرة أخرى
إلى المزايدة عند 37 مليون دولار.
قال الدكتور هينتون:
"شعرنا وكأننا في فيلم".
ثم انسحبت مايكروسوفت
للمرة الثانية. لم يتبق سوى بايدو وجوجل ، ودفعوا المزايدة إلى 42 مليون دولار ،
43 مليون دولار. أخيرا ، عند 44 مليون دولار ، أوقف الدكتور هينتون وطلابه المزاد.
كانت العطاءات لا تزال تتصاعد ، لكنهم أرادوا العمل لصالح Google. وكان المال
مذهلا.
لقد كانت علامة لا لبس
فيها على أن الشركات الغنية كانت مصممة على شراء أكثر باحثي الذكاء الاصطناعي
موهبة - وهو ما لم يغب عن الدكتور حسابيس في DeepMind. كان يخبر موظفيه دائما أن
DeepMind ستبقى شركة مستقلة. كان يعتقد أن هذه هي أفضل طريقة لضمان عدم تحول
تقنيتها إلى شيء خطير.
ولكن مع دخول شركات
التكنولوجيا الكبرى سباق المواهب ، قرر أنه ليس لديه خيار: لقد حان الوقت للبيع.
وبحلول نهاية عام 2012،
كانت غوغل وفيسبوك تعملان على الاستحواذ على مختبر لندن، وفقا لثلاثة أشخاص مطلعين
على الأمر. أصر الدكتور حسابيس وشركاؤه المؤسسون على شرطين: لا يمكن استخدام تقنية
DeepMind لأغراض عسكرية ، ويجب أن يشرف على تقنية AGI الخاصة بها مجلس مستقل من
التقنيين وعلماء الأخلاق.
عرضت جوجل 650 مليون
دولار. عرض مارك زوكربيرج من فيسبوك دفع تعويضات أكبر لمؤسسي DeepMind ، لكنه لم
يوافق على الشروط. بيع ديب مايند إلى جوجل.
كان السيد زوكربيرج مصمما
على بناء مختبر ذكاء اصطناعي خاص به. استأجر يان ليكون ، عالم الكمبيوتر الفرنسي
الذي أجرى أيضا أبحاثا رائدة في مجال الذكاء الاصطناعي ، لتشغيلها. بعد عام من
مزاد الدكتور هينتون ، طار السيد زوكربيرج والدكتور ليكون إلى بحيرة تاهو لحضور
نفس مؤتمر الذكاء الاصطناعي. بينما كان يتجول في جناح في كازينو Harrah مرتديا
جواربه ، أجرى السيد زوكربيرج شخصيا مقابلات مع كبار الباحثين ، الذين سرعان ما
عرض عليهم ملايين الدولارات من الراتب والأسهم.
تم الضحك على الذكاء
الاصطناعي ذات مرة. الآن كان أغنى الرجال في وادي السيليكون يدفعون المليارات
لمنعهم من التخلف عن الركب.
مجلس الأخلاقيات المفقود
عندما استثمر ماسك في
DeepMind ، كسر قاعدته غير الرسمية - أنه لن يستثمر في أي شركة لا يديرها بنفسه.
كانت سلبيات قراره واضحة بالفعل عندما وجد نفسه مرة أخرى ، بعد شهر واحد فقط أو
نحو ذلك من خلاف عيد ميلاده مع السيد بيج ، وجها لوجه مع صديقه السابق وزميله
الملياردير.
كانت هذه المناسبة هي
الاجتماع الأول لمجلس أخلاقيات DeepMind ، في 14 أغسطس 2015. تم إنشاء مجلس
الإدارة بناء على إصرار مؤسسي الشركة الناشئة لضمان عدم تسبب تقنيتهم أي ضرر بعد
البيع. اجتمع الأعضاء في غرفة مؤتمرات خارج مكتب ماسك في سبيس إكس ، مع نافذة تطل
على مصنع الصواريخ الخاص به ، وفقا لثلاثة أشخاص مطلعين على الاجتماع.
ولكن هذا هو المكان الذي
انتهت فيه سيطرة السيد ماسك. عندما اشترت Google DeepMind ، اشترت كل شيء. كان
السيد ماسك خارجا. من الناحية المالية ، كان قد خرج إلى الأمام ، لكنه كان غير
سعيد.
كان هناك ثلاثة مديرين
تنفيذيين في Google يسيطرون الآن بقوة على DeepMind: السيد بيج. سيرجي برين ،
المؤسس المشارك لشركة Google ومستثمر Tesla ؛ وإريك شميدت ، رئيس مجلس إدارة
Google. وكان من بين الحاضرين الآخرين ريد هوفمان ، مؤسس PayPal آخر ، وتوبي أورد
، الفيلسوف الأسترالي الذي يدرس "المخاطر الوجودية".
أفاد مؤسسو DeepMind أنهم كانوا يمضون قدما في عملهم ، لكنهم كانوا يدركون أن التكنولوجيا تنطوي على مخاطر جسيمة.
قدم السيد سليمان ،
المؤسس المشارك ل DeepMind ، عرضا تقديميا بعنوان "The Pitchforkers
قادمون". وقال لمجلس الإدارة إن الذكاء الاصطناعي يمكن أن يؤدي إلى انفجار في
المعلومات المضللة. وأعرب عن قلقه من أنه نظرا لأن التكنولوجيا حلت محل عدد لا
يحصى من الوظائف في السنوات المقبلة ، فإن الجمهور سيتهم Google بسرقة سبل عيشهم.
وقال إن غوغل ستحتاج إلى مشاركة ثروتها مع الملايين الذين لم يعد بإمكانهم العثور
على عمل وتوفير "دخل أساسي عالمي".
وافق السيد ماسك. لكن كان
من الواضح تماما أن ضيوفه في جوجل لم يكونوا مستعدين للشروع في إعادة توزيع
ثروتهم. وقال شميدت إنه يعتقد أن المخاوف مبالغ فيها تماما. في همسه المعتاد ،
وافق السيد بيج. وقال إن الذكاء الاصطناعي سيخلق وظائف أكثر مما يسلبه.
بعد ثمانية أشهر ، حقق
DeepMind اختراقا أذهل مجتمع الذكاء الاصطناعي والعالم. فازت آلة DeepMind المسماة
AlphaGo على أحد أفضل اللاعبين في
العالم في لعبة Go القديمة. تمت مشاهدة اللعبة ، التي تم بثها عبر الإنترنت ، من قبل 200 مليون شخص في
جميع أنحاء العالم. افترض معظم الباحثين أن الذكاء الاصطناعي يحتاج إلى 10 سنوات
أخرى لحشد البراعة للقيام بذلك.
ادعى العقلانيون والإيثار
الفعالون وغيرهم ممن يشعرون بالقلق من مخاطر الذكاء الاصطناعي أن فوز الكمبيوتر
أثبت صحة مخاوفهم.
"هذا
مؤشر آخر على أن الذكاء الاصطناعي يتقدم بشكل أسرع مما توقعه العديد من
الخبراء" ، كتبت فيكتوريا كراكوفنا ، التي ستنضم قريبا إلى DeepMind كباحثة
في "سلامة الذكاء الاصطناعي" ، في منشور على مدونة.
كان مؤسسو DeepMind قلقين
بشكل متزايد بشأن ما ستفعله Google باختراعاتهم. في عام 2017 ، حاولوا الانفصال عن
الشركة. استجابت Google من خلال زيادة الرواتب وحزم جوائز الأسهم لمؤسسي DeepMind
وموظفيهم. بقوا في أماكنهم.
لم يعقد مجلس الأخلاقيات
اجتماعا ثانيا.
الانفصال
مقتنعا بأن وجهة نظر
السيد بيج المتفائلة للذكاء الاصطناعي كانت خاطئة تماما ، وغاضبا من خسارته ل
DeepMind ، بنى السيد ماسك مختبره الخاص.
تأسست OpenAI في أواخر
عام 2015 ، بعد بضعة أشهر فقط من لقائه مع سام ألتمان في فندق روزوود في وادي
السيليكون. ضخ السيد ماسك الأموال في المختبر ، وجاء رفاقه السابقون في PayPal ،
السيد هوفمان والسيد ثيل ، للركوب. وتعهد الرجال الثلاثة وغيرهم بوضع 1 مليار
دولار في المشروع، الذي سيساعد السيد ألتمان، الذي كان يبلغ من العمر 30 عاما في
ذلك الوقت، في إدارته. لجعلهم يبدأون ، قاموا بصيد إيليا سوتسكيفر من Google. (كان
الدكتور سوتسكيفر أحد طلاب الدراسات العليا الذين "اشترتهم" Google في
مزاد الدكتور هينتون.)
في البداية ، أراد السيد
ماسك تشغيل OpenAI كمنظمة غير ربحية ، خالية من الحوافز الاقتصادية التي كانت تقود
Google والشركات الأخرى. ولكن بحلول الوقت الذي أبهرت فيه Google مجتمع
التكنولوجيا بحيلة Go ، كان السيد Musk يغير رأيه حول كيفية إدارتها. لقد أراد
بشدة أن تخترع OpenAI شيئا من شأنه أن يستحوذ على خيال العالم ويسد الفجوة مع
Google ، لكنه لم ينجز المهمة كمنظمة غير ربحية.
في أواخر عام 2017 ، وضع
خطة لانتزاع السيطرة على المختبر من السيد ألتمان والمؤسسين الآخرين وتحويله إلى
عملية تجارية من شأنها أن توحد قواها مع تسلا وتعتمد على أجهزة الكمبيوتر العملاقة
التي كانت شركة السيارات تطورها ، وفقا لأربعة أشخاص مطلعين على الأمر.
عندما تراجع السيد ألتمان
وآخرون ، استقال السيد ماسك وقال إنه سيركز على عمله في مجال الذكاء
الاصطناعي في تسلا. في فبراير 2018 ، أعلن
رحيله لموظفي OpenAI في الطابق العلوي من مكاتب الشركة الناشئة في مصنع شاحنات تم
تحويله ، حسبما قال ثلاثة أشخاص حضروا الاجتماع. عندما قال إن OpenAI بحاجة إلى
التحرك بشكل أسرع ، أجاب أحد الباحثين في الاجتماع بأن السيد ماسك كان متهورا.
وصف السيد ماسك الباحث
بأنه "الحمار" واقتحم ، وأخذ جيوبه العميقة معه.
احتاجت OpenAI فجأة إلى
تمويل جديد على عجل. سافر السيد ألتمان إلى صن فالي لحضور مؤتمر والتقى ساتيا ناديلا ، الرئيس التنفيذي لشركة
مايكروسوفت. بدا الارتباط طبيعيا. كان السيد ألتمان يعرف كبير مسؤولي التكنولوجيا
في مايكروسوفت ، كيفن سكوت. اشترت Microsoft LinkedIn من السيد هوفمان ، عضو مجلس
إدارة OpenAI. طلب السيد ناديلا من السيد سكوت أن ينجز ذلك. تم إغلاق الصفقة في عام
2019.
شكل السيد ألتمان و
OpenAI شركة ربحية في إطار المنظمة غير الربحية الأصلية ، وكان لديهم 1 مليار
دولار من رأس المال الجديد ، وكان لدى Microsoft طريقة جديدة لبناء الذكاء
الاصطناعي في خدمة الحوسبة السحابية الواسعة.
لم يكن الجميع داخل
OpenAI سعداء.
كان داريو أمودي ، الباحث
الذي له علاقات مع مجتمع الإيثار الفعال ، حاضرا في فندق روزوود عندما ولد OpenAI.
كان الدكتور أمودي، الذي قام بلف تجعيد شعره بين أصابعه إلى ما لا نهاية أثناء
حديثه، يقود جهود المختبر لبناء شبكة عصبية تسمى نموذج لغوي كبير يمكنه التعلم من
كميات هائلة من النص الرقمي. من خلال تحليل عدد لا يحصى من مقالات ويكيبيديا
والكتب الرقمية ولوحات الرسائل ، يمكنه إنشاء نص من تلقاء نفسه. كان لديها أيضا
عادة مؤسفة في اختلاق الأمور. كان يطلق عليه GPT-3 ، وتم إصداره في صيف عام 2020.
اعتقد الباحثون داخل
OpenAI و Google وشركات أخرى أن هذه التكنولوجيا سريعة التحسن يمكن أن تكون طريقا
إلى A.G.I.
لكن الدكتور أمودي لم يكن
سعيدا بصفقة مايكروسوفت لأنه اعتقد أنها تأخذ OpenAI في اتجاه تجاري حقا. ذهب هو
وباحثون آخرون إلى مجلس الإدارة لمحاولة دفع السيد ألتمان إلى الخروج ، وفقا لخمسة
أشخاص مطلعين على الأمر. بعد أن فشلوا ، غادروا. ومثلهم كمثل مؤسسي ديب مايند من
قبلهم، كانوا قلقين من أن أسيادهم الجدد في الشركات سوف يفضلون المصالح التجارية
على السلامة.
في عام 2021 ، أنشأت
المجموعة المكونة من حوالي 15 مهندسا وعالما مختبرا جديدا يسمى Anthropic. كانت
الخطة هي بناء الذكاء الاصطناعي بالطريقة التي اعتقد الإيثاريون الفعالون أنه يجب
القيام بها - مع ضوابط صارمة للغاية.
"لم
تكن هناك محاولة لإزالة سام ألتمان من OpenAI من قبل مؤسسي Anthropic" ، قالت
المتحدثة باسم Anthropic ، سالي ألدوس. "توصل المؤسسون المشاركون أنفسهم إلى
استنتاج مفاده أنهم يرغبون في مغادرة OpenAI لبدء شركتهم الخاصة ، وأعلنوا ذلك
لقيادة OpenAI ، وتفاوضوا على مدى عدة أسابيع على الخروج بشروط مقبولة
للطرفين."
قبلت Anthropic استثمارا
بقيمة 4 مليارات دولار من Amazon و 2 مليار دولار أخرى من Google بعد ذلك بعامين.
الكشف
بعد أن تلقت OpenAI 2 مليار دولار أخرى من مايكروسوفت ، زار السيد ألتمان ومسؤول تنفيذي كبير آخر ، جريج بروكمان ، بيل جيتس في قصره المترامي الأطراف على ضفاف بحيرة واشنطن ، خارج سياتل. لم يعد مؤسس مايكروسوفت يشارك في الشركة يوما بعد يوم ولكنه ظل على اتصال منتظم مع مديريها التنفيذيين.
خلال العشاء ، أخبرهم
السيد غيتس أنه يشك في أن نماذج اللغة الكبيرة يمكن أن تعمل. وقال إنه سيبقى
متشككا حتى تؤدي التكنولوجيا مهمة تتطلب تفكيرا نقديا - اجتياز اختبار علم الأحياء
AP ، على سبيل المثال.
بعد خمسة أشهر ، في 24
أغسطس 2022 ، عاد السيد ألتمان والسيد بروكمان وأحضرا باحثا في OpenAI يدعى تشيلسي
فوس. كانت السيدة فوس حاصلة على ميدالية في أولمبياد علم الأحياء الدولي عندما
كانت طالبة في المدرسة الثانوية. كان السيد ناديلا وغيره من المديرين التنفيذيين
لشركة مايكروسوفت هناك أيضا.
على شاشة رقمية ضخمة على
منصة خارج غرفة معيشة السيد غيتس ، قدم طاقم OpenAI تقنية تسمى GPT-4.
أعطى السيد بروكمان
النظام اختبارا بيولوجيا متقدما متعدد الخيارات ، وقامت السيدة فوس بتصنيف
الإجابات. تضمن السؤال الأول الجزيئات القطبية، وهي مجموعات من الذرات ذات شحنة
موجبة في أحد طرفيها وشحنة سالبة في الطرف الآخر. أجاب النظام بشكل صحيح وشرح
اختياره. "لقد تم تدريبه فقط على تقديم إجابة" ، قال السيد بروكمان.
"طبيعة المحادثة سقطت نوعا ما ، بطريقة سحرية تقريبا." بعبارة أخرى ،
كان يفعل أشياء لم يصمموها حقا للقيام بها.
كان هناك 60 سؤالا. حصلت
GPT-4 على إجابة واحدة خاطئة فقط.
جلس السيد غيتس على كرسيه
، وفتحت عيناه على مصراعيها. في عام 1980 ، كان لديه رد فعل مماثل عندما أظهر له
الباحثون واجهة المستخدم الرسومية التي أصبحت أساسا للكمبيوتر الشخصي الحديث. كان
يعتقد أن GPT كانت ثورية.
بحلول أكتوبر ، كانت
Microsoft تضيف التكنولوجيا عبر خدماتها عبر الإنترنت ، بما في ذلك محرك بحث Bing
الخاص بها. وبعد شهرين ، أصدرت OpenAI روبوت الدردشة ChatGPT الخاص بها ، والذي
يستخدمه الآن 100 مليون شخص كل أسبوع.
لقد تغلب OpenAI على
الإيثار الفعال في Anthropic. سارع المتفائلون بالسيد بيج في Google إلى إطلاق
روبوت الدردشة الخاص بهم ، Bard ، ولكن كان ينظر إليهم على نطاق واسع على أنهم
خسروا السباق أمام OpenAI. بعد ثلاثة أشهر من إصدار ChatGPT ، انخفض سهم Google
بنسبة 11 بالمائة. لم يتم العثور على السيد ماسك في أي مكان.
لكنها كانت مجرد البداية.
ثلاثة عشر عام مكرسة لخدمة القطاع الناشئ
Years Devoted to serving the RE sector & Water fields Thirteen
More than 158.000 Followers worldwide
اكثر من 158.000 متابع حول العالم
ليست هناك تعليقات:
إرسال تعليق