YouTube Distilled
HomeVideos

Sam Altman: The benefits of AI are worth ‘some bad things’

Watch on YouTube

Now Playing

Sam Altman: The benefits of AI are worth ‘some bad things’

Transcript

1700 segments

0:00

سام، لقد مررت بأسبوع

0:01

حافل بأقل تقدير، لذا

0:02

أقدر حقاً تخصيصك

0:03

الوقت للانضمام إلى

0:04

برنامج "ديكودد".

0:05

>> شكراً لاستضافتي.

0:06

>> أجل، أجل. لقد كنت في

0:08

واشنطن مؤخراً لحضور

0:08

عشاء رسمي، وقام رئيس "

0:10

أوبن إيه آي" غريغ

0:10

بروكمان للتو بتوقيع

0:11

هذا الاتفاق الطوعي

0:12

بشأن سلامة الذكاء

0:13

الاصطناعي في البيت

0:14

الأبيض. عليّ أن أسألك

0:15

، هل تتوقع أن يغير هذا

0:16

الاتفاق الجديد، الذي

0:18

توسط فيه البيت الأبيض

0:19

، ممارسات السلامة في "

0:20

أوبن إيه آي" بشكل

0:21

ملموس، أم أن الأمر لا

0:22

يعدو كونه مجرد واجهة

0:23

إعلامية؟

0:24

>> حسناً، لا أعتقد أنه

0:25

مجرد واجهة إعلامية،

0:27

لكنني أريد أن أكون

0:28

واضحاً. نحن نهتم بعمق

0:30

شديد بالسلامة، ولقد

0:32

قمنا وسنقوم بأفضل ما

0:34

يمكننا من أجل السلامة

0:36

والأمن، وببساطة

0:37

تعزيز الثقة

0:38

والموثوقية في هذه

0:40

التكنولوجيا، سواء تم

0:42

توقيع أي اتفاق طوعي

0:43

أم لا. أعتقد أنه أمر

0:45

رائع أن يقوم القطاع

0:47

بذلك، ومن الواضح أننا

0:49

في وقت يبحث فيه الناس

0:51

عن الطمأنينة من

0:52

القطاع، ومطوري هذه

0:54

التكنولوجيا. لكن

0:57

تأسسنا على إيمان بأن

0:59

هذه التكنولوجيا

1:01

ستصبح قوية كما هي

1:02

الآن وأكثر قوة في

1:04

المستقبل، وأردنا

1:05

التأكد من أن يحصل

1:07

الناس على فوائدها

1:08

الهائلة. وسنقوم بذلك،

1:10

كما تعلم، مع أو بدون

1:12

مثل هذا الاتفاق،

1:13

لكنني سعيد بوجوده.

1:14

>> أجل، وكيف ترد على

1:15

أولئك الذين يخشون أن

1:16

يتم استبعاد الجمهور

1:17

من هذه النقاشات

1:18

المهمة للغاية حول

1:19

سلامة الذكاء

1:20

الاصطناعي، وأن هذه

1:21

السياسات تُصاغ في

1:22

الواقع من قبل الرئيس

1:23

وحفنة من الرؤساء

1:24

التنفيذيين لشركات

1:25

التكنولوجيا في الغرف

1:26

المغلقة بالبيت

1:27

الأبيض؟

1:27

>> أنا أشاركهم جوهر هذا

1:29

القلق بالفعل. أعتقد

1:30

حقاً أن هناك طريقتين

1:32

يمكن أن تسير فيهما

1:33

هذه التكنولوجيا في

1:34

مسار خاطئ للغاية.

1:35

أعني أن هناك الكثير

1:36

من التفاصيل التي

1:37

يمكننا الحديث عنها،

1:39

ولكن إذا فكرنا في

1:40

الاتجاهات العامة

1:41

التي يجب أن نقلق

1:42

بشأنها، فأحدها،

1:43

والذي نال الكثير من

1:44

الاهتمام مؤخراً، هو

1:45

احتمال فقدان السيطرة

1:47

على الذكاء الاصطناعي

1:48

، وأن نبني شيئاً غير

1:49

متوافق بما يكفي مع

1:51

القيم البشرية، ولا

1:52

يسمح للناس بالبقاء

1:53

مسيطرين على المستقبل

1:54

للأبد. ولذا نحن بحاجة

1:56

إلى تحقيق السلامة

1:57

بشكل صحيح. لكن

1:59

الطريقة الأخرى التي

2:00

يمكن أن تسير بها

2:00

الأمور في مسار خاطئ

2:02

هي تركز السلطة بشكل

2:03

مفرط. وهناك الكثير من

2:04

المخاوف هنا من أنه،

2:05

حسناً، إذا قيدنا هذه

2:07

التكنولوجيا أكثر من

2:08

اللازم باسم السلامة،

2:10

فسينتهي بنا المطاف

2:11

بوجود عدد قليل من

2:12

الشركات أو الأشخاص أو

2:14

ربما دولة واحدة تسيطر

2:15

بشكل مفرط على هذا

2:16

المجال. أم، وهذا

2:18

أيضاً مسار قد يؤدي

2:19

إلى نتائج كارثية، لأن

2:20

الناس سيُحرمون من نوع

2:22

القوة والمزايا

2:23

والتحكم والقدرة على

2:24

التأثير في المستقبل

2:26

التي يجب أن يمتلكوها.

2:27

لذا، هدفنا هنا هو أن

2:29

نكون وسطيين عمليين

2:30

بين هذين المسارين،

2:31

لأننا ندرك مدى سهولة

2:32

الانزلاق نحو الخطأ في

2:34

أي من الاتجاهين.

2:35

>> أجل، حسناً، أنا سعيد

2:36

لأنك ذكرت ذلك، أعلم

2:37

أن عدداً قليلاً جداً

2:38

من الأشخاص كانوا في

2:39

الغرفة، لأن "بوليتيكو

2:40

" أفادت بالفعل بأن

2:41

اتفاقية البيت الأبيض

2:42

هذه، التي تم توقيعها

2:43

في وقت سابق، كانت من

2:44

بنات أفكار مارك

2:44

زوكربيرج، الرئيس

2:45

التنفيذي لشركة "ميتا"

2:46

، وجينسن هوانغ،

2:47

الرئيس التنفيذي

2:48

لشركة "إنفيديا"، مع

2:49

مدخلات ضئيلة للغاية

2:50

من بقية الموقعين

2:51

الآخرين. من الواضح أن

2:52

جريج كان هناك، لكن لم

2:53

يكن من الواضح إلى أي

2:54

مدى أثرت "أوبن أيه آي"

2:55

على هذا الأمر. هل

2:56

فوجئتم بهذا الاتفاق؟

2:57

وهل يساوركم القلق من

2:58

أن بعض الرؤساء

2:59

التنفيذيين قد

2:59

يتواصلون سراً مع

3:00

البيت الأبيض بشأن هذا

3:01

الموضوع؟

3:02

>> لا، أعتقد أننا كنا

3:03

نتحدث مع زملائنا في

3:05

القطاع منذ أشهر طويلة

3:07

، وبشكل مكثف أكثر في

3:08

الأسابيع التي سبقت

3:10

ذلك. أم و أعتقد أن

3:13

الجميع كان لديهم

3:15

الكثير من الأهداف

3:16

المشتركة هنا. أنا

3:17

أرحب بالمزيد من

3:18

الخطوات، لكنني أعتقد

3:19

أن هذه بداية رائعة

3:20

يمكن للقطاع أن يدعمها

3:21

.

3:21

>> بالتأكيد، أقدر ذلك.

3:23

يجب أن أسأل عن الخبر

3:24

الآخر الذي صدر عن

3:25

البيت الأبيض هذا

3:25

الأسبوع. صدر أمر

3:26

تنفيذي يغير رسمياً

3:28

مسمى الذكاء

3:29

الاصطناعي إلى "الذكاء

3:30

الفائق". ما رأيك في

3:32

محاولة إعادة التسمية

3:33

هذه؟

3:34

>> لقد استخدمنا كلا

3:35

المصطلحين، لكننا

3:36

نتحدث عن الذكاء

3:37

الفائق منذ بضع سنوات

3:39

حتى الآن.

3:39

>> أم لكن الأمر مختلف،

3:41

أليس كذلك؟ أعني،

3:42

الذكاء الفائق يشبه

3:43

السلاح الرشاش، أليس

3:44

كذلك؟

3:44

>> أعتقد أن مرحلة الذكاء

3:45

الاصطناعي قد حدثت

3:46

بالفعل. أظن أن

3:47

الكثيرين سيقولون إن

3:48

الذكاء الاصطناعي

3:49

العام قد تحقق أو

3:50

اقترب من التحقق.

3:51

أعتقد أن مصطلح "

3:52

الذكاء الفائق" لا

3:53

يزال يقلل من حجم ما

3:55

أعتقد أنه يحدث، لكنه

3:57

يظل كلمة أفضل من "

3:58

الذكاء الاصطناعي". أم

4:01

لذا، نعم، أعتقد أنه

4:03

نوعاً ما لقد تطابق مع

4:06

الطريقة التي نتحدث

4:06

بها عنه، لكنني أعتقد

4:07

أن الكثير من الناس

4:08

سيستمرون في استخدام

4:09

مصطلح الذكاء

4:10

الاصطناعي.

4:10

>> نعم، أريد فقط أن أسأل

4:12

، هل ستغيرون اسمكم

4:13

إلى "أوبن إس آي"؟

4:14

>> لا توجد خطط للقيام

4:16

بذلك. لكننا نرغب في...

4:17

لقد تحدثنا كثيرًا عن

4:18

الذكاء الفائق

4:19

وسنواصل الحديث عنه.

4:21

>> أجل، ومن الواضح أنني

4:21

أعتقد أن الرئيس مدفوع

4:22

جزئيًا بهذه الرغبة في

4:23

إعادة صياغة مسمى

4:24

الذكاء الاصطناعي

4:25

ليكون أقل إثارة للخوف

4:26

لدى الناس. وأعتقد

4:27

ربما كلمة "اصطناعي"

4:28

تبدو سيئة. الجميع

4:30

>> أعني، هل يبدو الذكاء

4:31

الفائق أقل إثارة

4:32

للخوف للناس بوضوح من

4:33

الذكاء الاصطناعي؟

4:34

>> ليس بالنسبة لي. لذا،

4:36

أنا فضولي لمعرفة ما

4:37

إذا كنت تعتقد أن

4:38

إعادة التسمية هذه

4:39

سيكون لها بالفعل أي

4:40

تأثير على تصور

4:40

الجمهور لهذه

4:41

التكنولوجيا.

4:42

>> لا أعرف أجل، ليس من

4:45

الواضح بالنسبة لي أن

4:46

الذكاء الفائق مصطلح

4:47

أقل إثارة للخوف.

4:48

أعتقد أنه مصطلح أكثر

4:50

دقة.

4:50

>> حسنًا. وللتوضيح فقط

4:52

>> أعتقد أن الناس

4:53

سيستمرون في تسميته

4:54

بالذكاء الاصطناعي.

4:55

>> أجل، حسنًا. ولن ننتظر

4:57

إعادة تسمية الشركة في

4:58

أي وقت قريب. لكن من

5:00

الجيد معرفة أنك ترى

5:01

الدقة في ذلك على

5:02

الأقل. بخصوص علاقتك

5:04

>> قصة صغيرة. منذ فترة،

5:06

أردت القيام بشيء،

5:07

وهذا كان أمرًا أردت

5:09

حقًا القيام به ولم

5:11

يحدث. أردت الحصول على

5:13

نطاقات open ai.com و open

5:14

agi.com و open asi.com. ومع

5:16

صعودنا من الذكاء

5:17

الاصطناعي إلى الذكاء

5:18

العام الاصطناعي إلى

5:19

الذكاء الفائق، كنا

5:20

سنغير الرابط، لكن

5:21

العلامات التجارية

5:22

راسخة.

5:23

>> المستقبل الذي كان من

5:24

الممكن أن يكون. واو.

5:26

بالعودة إلى علاقتك

5:27

بالرئيس، من الواضح

5:29

أنك تضغط من أجل قواعد

5:30

سلامة أكثر صرامة، وهو

5:32

تحول بسيط للشركة.

5:34

يبدو هذا متناقضًا

5:35

بشكل متزايد مع

5:36

ادعاءات الرئيس بأن

5:37

سلامة الذكاء

5:38

الاصطناعي خدعة، وأن

5:39

اللوائح مخطط عالمي.

5:40

لقد كانت تربطك علاقة

5:42

جيدة بترامب، لكن

5:43

لماذا لا يستمع إليك

5:44

عندما تطلب قواعد أكثر

5:46

صرامة؟

5:47

>> أمم حسنًا، أعتقد أنه

5:52

يريد حقًا أن يتمكن

5:54

الناس من استخدام

5:55

الذكاء الاصطناعي

5:56

والاعتماد عليه ليكون

5:58

آمنًا وقويًا ويعمل

5:59

بالطريقة التي

6:00

يتوقعها الناس. إنه

6:02

يريد بوضوح من الشركات

6:04

أن تفعل ذلك بنفسها.

6:07

وكما تعلم، سنقوم، كما

6:12

ذكرت سابقًا، بجعل

6:13

منتجاتنا آمنة بغض

6:15

النظر عن القواعد وبغض

6:17

النظر عما تفعله

6:18

الشركات الأخرى. أستمر

6:20

في الاعتقاد بأنه مع

6:22

وصول هذه التكنولوجيا

6:23

إلى مستويات متزايدة

6:27

من القدرة، أم، وعلى

6:29

العالم أن يواجه ما

6:30

يعنيه هذا للمجتمع ككل

6:32

، فمن المحتمل أن نرى

6:33

المزيد من الدعوات

6:35

لوضع بعض الضوابط؛

6:36

ولكن إذا كنت مخطئًا

6:38

بشأن ذلك، وإذا لم

6:39

يحدث أي خطأ على طول

6:40

الطريق، وأنت تعلم، لا

6:42

نحتاج إلى أي شيء هناك

6:44

، فهذا جيد أيضًا.

6:45

>> أجل، ومن الواضح أن

6:46

الرئيس يتحدث إلى

6:47

أشخاص آخرين أيضًا.

6:49

لديه مستثمرون

6:50

مغامرون في دائرته

6:50

يعتقدون أنه يجب تنظيم

6:52

الذكاء الاصطناعي

6:53

بشكل خفيف للغاية. أم

6:54

يعتقدون أن القوانين

6:55

الحالية يمكنها

6:55

التصدي لأي مخاوف

6:56

تتعلق بالسلامة. أم

6:57

وبصراحة، اعتقد

6:58

الكثير من هؤلاء

6:59

الأشخاص أن شركتك كانت

7:00

في صفهم بشأن هذه

7:01

المسألة. لكننا سمعنا

7:02

من بعض هؤلاء أم أعتقد

7:03

أن الناس يسمونهم

7:04

مسرعي الذكاء

7:05

الاصطناعي مؤخرًا.

7:06

ولكي أكون صريحًا،

7:07

إنهم يشعرون بالخيانة.

7:08

إنهم يشعرون وكأن OpenAI

7:09

تنسخ أساسًا Anthropic

7:11

ومديرها التنفيذي

7:12

داريو أمودي في دفعها

7:13

نحو لوائح تنظيمية

7:14

صارمة للغاية بشأن

7:15

الذكاء الاصطناعي. هل

7:16

يمكنني فقط أن أسأل،

7:17

كما تعلم، أين تختلف

7:18

تحديدًا عن Anthropic

7:19

ومديرها التنفيذي

7:20

المؤيد للتنظيم داريو

7:21

عندما يتعلق الأمر

7:22

بقواعد الذكاء

7:23

الاصطناعي الجديدة؟

7:24

أم ما هو وجه الاختلاف

7:25

الجوهري؟

7:27

>> أم أعتقد أن هناك

7:28

الكثير من الاختلاف

7:29

الجوهري. أم لقد كنا

7:31

دائمًا نؤمن بشدة

7:33

بضرورة إضفاء الطابع

7:34

الديمقراطي على هذه

7:35

التكنولوجيا ووضعها

7:37

في أيدي الناس. أعتقد

7:38

أن أحد أكبر

7:38

الاختلافات بيننا

7:40

وبين بعض الأشخاص

7:41

الأكثر تشددًا في مجال

7:42

سلامة الذكاء

7:43

الاصطناعي هو أننا

7:44

نعتقد أنه يجب على

7:45

العالم قبول حدوث بعض

7:46

الأشياء السيئة مقابل

7:47

فوائد هذه

7:48

التكنولوجيا وتمتع

7:49

الناس بالقدرة على

7:50

التصرف. لذا، كما تعلم

7:51

، أنا لا أتفق، لكنني

7:53

أتفهم وجهة نظر

7:54

الأشخاص الذين يقولون:

7:55

"ستصبح هذه

7:56

التكنولوجيا قوية

7:57

جدًا وخطيرة للغاية

7:58

لدرجة أنه يجب أن

7:59

يمتلكها مختبر واحد في

8:01

سان فرانسيسكو ويتأكد

8:02

من عدم حدوث أي شيء سيء

8:03

ويحدد نوعًا ما كيفية

8:05

توزيع الفوائد". أعتقد

8:06

أن هذه مقايضة غير

8:08

مقبولة على الإطلاق من

8:09

منظور الحرية والقدرة

8:11

البشرية على التصرف،

8:12

وتقرير الناس

8:13

لمستقبلهم بأنفسهم.

8:14

لكنني أتفهم مصدر هذا

8:16

التفكير، وأعتقد حقًا

8:18

أن الموقف التنظيمي

8:19

الأكثر مرونة الذي

8:21

ندافع عنه يأتي مع

8:22

قبول حقيقة أن بعض

8:24

الأشياء السيئة ستحدث

8:25

بينما يكتشف المجتمع

8:27

طرق المرونة. لذا، لن

8:29

أقبل مقايضة تقول مثل:

8:30

"سنتأكد من عدم وجود

8:32

اختراقات كبيرة، ولا

8:33

يوجد نوع من إساءة

8:34

استخدام هذه

8:35

التكنولوجيا، ولا

8:37

توجد عمليات احتيال،

8:38

ولا توجد كل الأشياء

8:39

السيئة الأخرى التي

8:41

ستحدث"، لأنني أعتقد

8:42

أن الناس سيقومون

8:44

بأشياء جيدة تفوق

8:45

الأشياء السيئة

8:46

بأضعاف مضاعفة. لكن

8:48

عندما يتعلق الأمر

8:49

باحتمالية فقدان

8:50

السيطرة بشكل خطير على

8:52

الذكاء الاصطناعي،

8:53

وهذا ليس مصدر قلق

8:55

لليوم، لكنه قد لا

8:56

يكون في المستقبل

8:58

البعيد، هنا أود أن

8:59

أقول للمسارعين: دعونا

9:01

نكون أكثر تروياً قبل

9:02

الاندفاع نحو هذا

9:04

المستقبل. لذا، أود أن

9:05

أقول اقبلوا بالمخاطر

9:07

المحدودة، اقبلوا

9:08

بالمخاطر التي نفهمها

9:10

مقابل الفوائد

9:11

والحرية والقدرة على

9:12

الاختيار وكل تلك

9:13

الأشياء التي كنت

9:14

أتحدث عنها للتو، لكن

9:16

لا تقبلوا بالمخاطر

9:17

الكارثية حقاً.

9:18

>> أجل، ولكي نكون واضحين

9:19

، لقد ذكرت مختبراً

9:20

واحداً في سان

9:21

فرانسيسكو يسيطر على

9:22

كل هذه التكنولوجيا.

9:23

هذا يشبه كثيراً ما

9:24

يقوله أولئك الذين

9:25

يعتقدون أن "أنثروبيك"

9:26

تقوم بمناورة للسيطرة

9:27

على المنظمين ولتكون

9:28

اللاعب المهيمن،

9:29

وربما اللاعب الوحيد

9:30

في طليعة هذا المجال.

9:31

هل تعتقد أن هذا قد

9:32

يكون ما يفعلونه؟ ومن

9:33

الواضح أن لديك مخاوف

9:34

بشأن ذلك.

9:35

>> تحتاج إلى...أعني،

9:36

ستكون لدي مخاوف إذا

9:37

قاموا بذلك فعلاً.

9:38

عليك أن تسألهم عما

9:38

إذا كان هذا هو ما

9:39

يريدون القيام به.

9:40

>> أجل.

9:40

>> ومرة أخرى، بخصوص

9:42

سياسات محددة لا

9:43

تريدون دعمها بينما

9:44

تدعمها "أنثروبيك"،

9:45

سواء على المستوى

9:46

الفيدرالي أو مستوى

9:47

الولاية، لأنكم كما

9:49

ذكرت أصبحتم متوافقين

9:50

الآن فيما يتعلق

9:51

بمواكبة التطور في

9:52

الصين، ومتوافقين

9:53

بشأن المقيمين

9:54

الخارجيين، ما هو

9:55

الشيء الوحيد الذي

9:57

يفرق بينكم؟

9:59

>> حسب آخر ما سمعت، أحد

10:01

الفوارق هو أننا لا

10:03

نريد أي قيود أو

10:04

اختبارات على أي شيء

10:06

باستثناء نماذج

10:08

الطليعة. لا نريد

10:10

إبطاء الأشخاص الذين

10:11

يطورون نماذج قوية

10:12

جداً ولكنها ليست في

10:14

الطليعة المطلقة،

10:15

وذلك انطلاقاً من روح

10:16

التركيز الحقيقي على

10:18

المخاطر الكارثية

10:19

المحتملة. لا أعتقد،

10:21

رغم أنني أؤمن بأنه

10:22

إذا لم تضع أي

10:23

اختبارات أو رقابة على

10:25

النماذج التي تتأخر

10:27

جيلاً أو جيلين عن

10:29

الطليعة، فأنا أقبل

10:30

بأن أشياء سيئة ستحدث

10:32

بسببها. لن أذهب

10:33

للمطالبة بنظام

10:35

تراخيص لتلك النماذج.

10:36

>> حسناً. أقدر ذلك. أحد

10:39

الأمور الأخرى التي

10:40

نسمعها من نقادك

10:41

المسارعين هو أنكم، في

10:42

"أوبن أيه آي"، محتجزون

10:43

كرهائن من قبل

10:44

الباحثين لديكم إلى حد

10:45

ما. لذا، أعتقد أن هناك

10:46

خيطاً مشتركاً يربط

10:47

الكثير من مجتمع سلامة

10:48

الذكاء الاصطناعي

10:49

ومجتمع البحث في سان

10:50

فرانسيسكو. أنتم

10:51

تسمونهم "المتشائمين

10:52

من الذكاء الاصطناعي"،

10:53

وتسمونهم "الفعالين في

10:54

الإيثار". لقد كنت

10:55

مشهوراً بكونك هدفاً

10:56

لمحاولة انقلاب فاشلة

10:57

من قبل هؤلاء الأشخاص.

10:58

>> لفترة قصيرة.

10:59

>> عذراً، ماذا قلت؟

11:00

>> أعني، نجاح ثم فشل،

11:02

لكن نعم.

11:02

>> حسناً، أجل، أجل، أجل.

11:04

لبضعة أيام فقط. لقد

11:05

استعدت عرشك. لذا،

11:07

أعتقد أن ذلك لم ينجح

11:08

في النهاية. لكن، أريد

11:10

أن أسألك، هل عقلية "

11:11

المتشائمين من الذكاء

11:12

الاصطناعي" بين باحثيك

11:13

أمر حقيقي؟ وهل ربما

11:15

تدفع هذه العقلية شركة

11:16

OpenAI لتأييد هذه

11:17

اللوائح الجديدة؟ هل

11:18

الباحثون هم من يقودون

11:19

الدفة هنا؟

11:20

>> همم. لا أعتقد أننا

11:22

المختبر الذي يُتهم

11:24

بالتشاؤم. أعتقد أننا

11:25

من النوع الذي يريد أن

11:26

يمتلك الناس هذه

11:27

التقنية. نحن نعتقد،

11:28

وأظن أننا أثبتنا صحة

11:29

وجهة نظرنا. هناك

11:31

فوائد هائلة، كما يمكن

11:32

للمجتمع معرفة كيفية

11:33

التعامل مع هذه

11:34

التكنولوجيا بأمان.

11:35

أعتقد حقاً أن هناك

11:37

باحثين ومختبرات أخرى

11:38

قالوا لا تنشروا هذه

11:39

الأشياء المروعة التي

11:41

ستحدث. لا يمكن الوثوق

11:42

بالناس في هذا الأمر،

11:44

وأعتقد أن رؤيتنا

11:45

للعالم قد ثبتت صحتها،

11:46

لكن جزءاً من هذا

11:48

التوسط هو أننا لا

11:49

نريد الانجراف وراء

11:50

التشاؤم الأعمى الذي

11:52

أراه سيئاً. وأعتقد أن

11:53

التفاؤل الأعمى سيء

11:55

أيضاً. أحب ثقافة

11:57

النقاش لدينا وأحب

11:59

ثقافتنا في محاولة عدم

12:04

الوقوع في فخ التطرف

12:06

الفكري في أي من

12:07

الاتجاهين. أعتقد أن

12:08

أحد أقوى جوانب

12:09

ثقافتنا هو قدرتنا على

12:11

استيعاب هذا التعقيد،

12:12

ولا نقع في الفخ الذي

12:13

تقع فيه بعض مختبرات

12:15

الذكاء الاصطناعي

12:16

الأخرى، حيث يكون

12:17

الأمر إما أبيض أو

12:18

أسود. ويمكننا معرفة

12:19

كيفية التعايش في هذه

12:21

المساحة الوسطى. هل

12:23

لدينا باحثون قلقون

12:25

بشأن المسار الذي قد

12:27

تتخذه هذه

12:27

التكنولوجيا؟ نعم. هل

12:30

لدينا باحثون واثقون

12:31

جداً من قدرتنا على

12:32

تخفيف تلك المخاوف؟

12:34

أيضاً نعم، وغالباً ما

12:35

يكونون نفس الأشخاص.

12:37

وأعتقد أن هذا جانب

12:38

صحي في ثقافتنا.

12:40

>> نعم، وأحياناً قد

12:41

يتجاوز الأمر حدوده،

12:42

وقد ورد في تقرير في

12:43

وقت سابق اليوم أن

12:44

ثلاثة باحثين في مجال

12:45

السلامة في OpenAI قد

12:46

انفصلوا عن الشركة.

12:48

بصراحة، يبدو الأمر

12:49

كما لو أنهم طُردوا

12:50

بسبب مشاركة معلومات

12:51

سرية مع مجموعة تقييم

12:53

خارجية. بدأ البعض

12:54

بالفعل في مقارنة

12:55

هؤلاء الباحثين

12:55

بالمبلغين عن

12:56

المخالفات. يقولون إن

12:57

OpenAI سجلت رسمياً دعمها

12:58

لهؤلاء المقيمين

12:59

الخارجيين المدمجين

13:01

في الشركة. لذا، هل

13:02

تعتقد أن طرد هؤلاء

13:03

الباحثين أو

13:03

الاستغناء عنهم

13:04

يتعارض ربما مع دعم

13:05

شركتكم للمبلغين عن

13:07

المخالفات، والمقيمين

13:08

الخارجيين، وهيكل

13:09

سلامة الذكاء

13:10

الاصطناعي الذي تم

13:11

بناؤه حول هذه

13:11

المختبرات؟

13:13

>> من الواضح أنني لن

13:14

أعلق على أشخاص بعينهم

13:16

، لكنني سأقول إننا

13:18

نؤمن بشدة بأهمية

13:20

العمل مع مقيمين من

13:22

طرف ثالث ومختبري

13:23

سلامة خارجيين ومجتمع

13:25

السلامة الأوسع. أمم

13:32

لكننا لا نزال نتوقع

13:33

احترام السرية.

13:36

>> نعم. أمم، دعنا ننتقل

13:38

إلى وضع الذكاء

13:39

الاصطناعي المارق. لقد

13:40

قامت نماذج صادرة عن

13:41

شركتكم بنوع من التصرف

13:42

غير المصرح به عبر

13:43

الإنترنت هذا الصيف،

13:45

حيث وصلت إلى معلومات

13:46

غير عامة من مواقع

13:47

حكومية في أستراليا،

13:48

وحاولت التسلل إلى

13:49

وزارة التعليم

13:50

الأمريكية، وتدخلت في

13:51

مواقع حكومية أخرى في

13:53

الولايات المتحدة. هل

13:54

أنت على علم بأي حالات

13:55

إضافية لسلوك مارق من

13:57

قبل نماذج OpenAI لم تصبح

13:59

علنية بعد؟

14:00

>> أمم، نحن في طور الكشف

14:02

عن المزيد من الحوادث.

14:03

لا يوجد شيء آخر على

14:05

علم به بهذا المستوى

14:06

من الخطورة. لكن لدينا

14:08

المزيد من الأشياء

14:09

للكشف عنها، ولأن

14:10

بعضها يتضمن ثغرات

14:11

أمنية، فإننا نمنح

14:12

الناس وقتاً طويلاً

14:13

لمعالجتها، وغالباً

14:15

ما يعود الأمر لهم في

14:16

الإفصاح عنها من عدمه.

14:17

أمم، لذا هناك المزيد

14:19

من الأشياء، ولكن لا

14:20

شيء آخر بهذا المستوى

14:22

ونحن نمر بعملية صارمة

14:23

للغاية. كما تعلم،

14:25

بالنسبة لنقطتك

14:26

السابقة، مثل أعتقد أن

14:29

هذا مثال جيد على سبب

14:30

عدم رغبتك في التسارع

14:32

الأقصى. وعندما نجد،

14:34

في سياق واقعنا

14:35

ونماذجنا الأكثر قوة

14:36

بشكل متزايد، أن "أوه،

14:38

النماذج قادرة الآن

14:39

على استخدام متجه

14:40

تهديد جديد"، فإننا

14:42

سنأخذ الوقت الكافي

14:43

لنتعلم كيف ندافع ضد

14:44

ذلك. وأعتقد أنه يجب أن

14:46

تريدنا أن نفعل ذلك.

14:48

وأعتقد أنني لا أعرف

14:49

حقاً كم من نقادنا

14:50

الذين يقولون "أوه،

14:52

OpenAI تدعو إلى التباطؤ"

14:53

، يمكنهم النظر إلى ما

14:55

نفعله وقول أي شيء آخر

14:56

غير "لقد رأت OpenAI ذلك

14:57

يحدث، وهم يتصرفون

14:59

بمسؤولية، وسيقومون

15:00

بتأمين أنفسهم ضد هذا".

15:02

>> نعم، ومن الواضح أنكم

15:03

قمتم أيضاً بإيقاف

15:05

إصدار نموذج GPT 6.1 Astra

15:06

الجديد مؤقتاً. كان

15:08

ذلك نوعاً من المفاجأة

15:09

. كان الناس يتوقعون

15:11

إصداره. أمم، أنا

15:12

متشوق لمعرفة ما رآه

15:13

باحثوكم وأدى إلى هذا

15:14

التوقف.

15:15

>> أمم، دون الخوض في

15:16

التفاصيل، لدينا

15:18

مجموعة من تقييمات

15:19

المواءمة ونتوقع أن

15:21

يكون كل نموذج نطرحه،

15:23

مع ازدياد قدرته، أكثر

15:24

قوة، وأفضل مواءمة،

15:26

وأكثر احتمالاً

15:27

للقيام بما يطلبه

15:29

مستخدمه، وأقل

15:30

احتمالاً للتسبب في

15:31

آثار جانبية غير

15:33

مقصودة. وبالنظر إلى

15:35

مستوى القدرات الحالي

15:37

، أعتقد أن هذا أيضاً

15:38

شيء سيرغب فيه معظم

15:40

مستخدمي النماذج

15:42

ويطالبون به. مثلك

15:43

ومثل الكثيرين غيرك،

15:44

لدي الآن نموذج يعمل

15:46

وله صلاحية الوصول إلى

15:47

أكثر معلوماتي حساسية

15:49

، مثل بريدي

15:50

الإلكتروني ورسائلي

15:51

النصية، وكل ما يوجد

15:52

على حاسوبي. وأريد

15:53

حقاً أن أتأكد من أنني

15:55

أستطيع الوثوق بهذا

15:56

النموذج وأنه سيتصرف

15:57

بشكل جيد.

15:57

>> نعم، أتفهم ذلك. وكما

15:59

تعلم، بالعودة إلى ما

16:00

قلته سابقاً، بأنك لا

16:01

تتوقع ظهور أي شيء

16:02

أكثر خطورة مما تم

16:03

الكشف عنه بالفعل. هل

16:05

كنت تشير إلى اختراق

16:06

أستراليا واختراق،

16:07

كما أفترض، التلاعب

16:08

بمواقع الحكومة

16:09

الأمريكية، أم كنت

16:10

تشير إلى شيء مثل "

16:11

هاغينغ فيس"(Hugging Face)؟

16:12

أعتقد أن ما أسأل عنه

16:13

هو: هل ينبغي لنا أن

16:14

نتوقع رؤية المزيد من

16:15

الحوادث مثل حادثة

16:16

أستراليا ووزارة

16:17

التعليم، ولكن لا شيء

16:18

مثل اختراق "هاغينغ

16:19

فيس" الذي رأيناه هذا

16:20

الصيف؟

16:20

>> لا أريد الخوض في نقاش

16:21

مباشر هنا لمحاولة

16:22

القول بأن شيئاً ما

16:24

أسوأ من الآخر، لكنني

16:25

سأقول إن الأمور

16:26

الأخرى التي أعرفها

16:27

ضمن تلك المجموعة ليست

16:28

أسوأ من تلك المجموعة.

16:29

>> حسناً، نعم، أتفهم ذلك

16:31

. أم، إذاً.

16:33

>> وبالمناسبة، أعتقد أن

16:34

ما قد تفعله العديد من

16:35

الشركات في هذا الموقف

16:36

هو القول ببساطة: "

16:37

أتعلم ماذا لو؟". "إذا

16:38

قام شيء ما بتسجيل

16:39

الدخول إلى موقع

16:40

إلكتروني باستخدام

16:41

بيانات اعتماد منشورة

16:42

على الويب، أو إذا كان

16:44

يستخدم ثغرة أمنية

16:45

طفيفة كانت معروفة

16:46

بالفعل وقام معظم

16:47

الناس بإصلاحها، فلا

16:48

داعي للكشف عن ذلك".

16:49

نحن نحاول أن نكون

16:51

دقيقين للغاية لأنني

16:52

أعتقد أن هذا بمثابة.

16:54

إشارة لما هو قادم.

16:56

إنها تجربة عملية

16:58

لشركتنا، ولكنني

16:59

أعتقد أيضاً أن هذا

17:00

أحد الأوقات التي تسبق

17:02

أن تصبح النماذج قوية

17:04

حقاً، حيث يمكن للعالم

17:06

أن يفهم كيف ستكون

17:07

حوادث الذكاء

17:08

الاصطناعي هذه. ولذا،

17:10

أعتقد أننا نحاول

17:11

تجاوز ما قد تفعله

17:12

الشركات الأخرى في هذا

17:14

الموقف بكثير.

17:15

>> بالتأكيد. لقد واجهتم

17:17

بوضوح الحادث الأكثر

17:18

خطورة حتى الآن مع "

17:19

هاغينغ فيس". أم، وفي

17:21

وقت سابق من هذا

17:22

الأسبوع، أفادت "

17:22

بوليتيكال أكشن" بوجود

17:24

دعوى قضائية رفعتها

17:25

مجموعة مناصرة في

17:26

كاليفورنيا ضد شركتكم

17:27

بسبب اختراق "هاغينغ

17:28

فيس". هل تعتقد أنه

17:29

بموجب القانون المدني

17:30

الحالي، يمكن تحميل

17:31

شركة OpenAI المسؤولية

17:32

القانونية عن ذلك

17:33

الاختراق أو

17:34

الانتهاكات الأخرى

17:35

التي ترتكبها نماذجها

17:36

بشكل مستقل؟

17:37

>> أم. أعني، لا أعرف ما

17:40

يكفي عن القانون

17:41

الحالي للتعليق على

17:42

ذلك من أي جانب. أعتقد

17:44

أنه ستكون هناك حاجة

17:46

إلى إطار عمل

17:47

للمسؤولية للشركات

17:48

التي تقدم نماذج مثل

17:50

هذه. ونعم، أنا، كما

17:52

تعلم، لست محامياً هنا

17:54

. لا يمكنني الحديث عن

17:55

التفاصيل القانونية،

17:56

لكن أعتقد أنه إذا حدث

17:57

خطأ ما في نماذجنا

17:58

أثناء التدريب،

17:59

فسيكون هناك نوع من

18:00

المسؤولية التي يجب أن

18:01

نتحملها.

18:02

>> ربما يكون هناك نموذج

18:03

مسؤولية قانونية جديد

18:04

ومنفصل لتدريب الذكاء

18:05

الاصطناعي تحديداً،

18:06

خارج إطار

18:07

>> هذا هو النوع من

18:08

الأمور الذي نأمل أن

18:10

يناقشه صناع السياسات

18:11

لدينا جميعاً.

18:12

>> أجل.

18:13

>> ولكن في غضون ذلك، نحن

18:14

ببساطة لا نريد

18:15

لنماذجنا أن تفعل ذلك

18:16

أثناء التدريب. هذا

18:17

التصرف من النماذج غير

18:19

مقبول بوضوح.

18:19

>> أجل، أعني، كنت سأسأل،

18:21

بغض النظر عن القانون،

18:23

هل تشعر بأي مسؤولية

18:24

شخصية تجاه ما حدث أو

18:26

ما قد يحدث في

18:27

المستقبل، بصفتك

18:28

مواطناً ومواطناً

18:29

مؤسسياً؟

18:30

>> أجل، أعني، هذه وظيفة

18:32

مرهقة للغاية. هناك

18:34

جوانب إيجابية مذهلة

18:35

لهذه النماذج، ولكن

18:36

هناك أيضاً أمور

18:36

حقيقية قد تسير بشكل

18:37

خاطئ تماماً. وأنت

18:38

تعلم، أسمعك تصف الأمر

18:40

بأنه "أوه، أنتم مجرد

18:41

مجموعة من المتشائمين

18:42

، وهؤلاء الأشخاص

18:44

غاضبون لأنكم تبطئون

18:45

التقدم". لكنني أشعر

18:46

بمسؤولية كبيرة

18:47

للقيام بذلك بالشكل

18:49

الصحيح.

18:49

>> أنتم بالتأكيد في حالة

18:50

من الشد والجذب. ويجب

18:51

أن أكون واضحاً، هذا

18:52

ليس توصيفي أنا للأمر.

18:53

نحن نستمع إلى جميع

18:55

الأطراف. وأريد التحدث

18:56

قليلاً عن الجانب

18:57

الآخر أيضاً. وعن

18:58

الإنفاق السياسي من

18:59

قبل صناعة الذكاء

19:00

الاصطناعي. لأن رئيسكم

19:01

، جريج بروكمان، تبرعه

19:02

بمبلغ 25 مليون دولار

19:03

للجنة العمل السياسي

19:04

المؤيدة للذكاء

19:05

الاصطناعي "ليدينج ذا

19:06

فيوتشر" لم يلقَ

19:07

قبولاً جيداً داخل

19:08

شركة OpenAI. وفي الواقع،

19:09

كانت هناك تقارير

19:10

جديدة تشير إلى أنه

19:11

اعتذر داخلياً عن ذلك

19:12

التبرع. وصف الأمر

19:13

بأنه تشتيت للانتباه

19:15

وقال إنه لن يتبرع

19:15

بمبلغ 25 مليون دولار

19:17

إضافي لتلك المجموعة

19:18

كما كان قد وعد في

19:19

البداية. أعني، هل

19:20

توافق على أن تبرع

19:21

جريج لـ LTFF كان يأتي

19:22

بنتائج عكسية؟

19:23

>> أمم لست على دراية

19:28

بتلك المذكرة التي

19:29

تتحدث عنها.

19:30

>> لقد صدر هذا بالأمس.

19:31

كان في صحيفة نيويورك

19:32

تايمز. كانت هناك

19:33

رسالة داخلية على "

19:34

سلاك".

19:35

>> الأيام. أنا متأخر في

19:36

متابعة الأخبار.

19:36

>> أتفهم ذلك. أنا أيضاً

19:38

لا أستطيع مواكبة كل

19:39

شيء دائماً. كانت هناك

19:40

رسالة داخلية على "

19:40

سلاك" أعتقد في يونيو

19:41

حيث قال بروكمان، "كان

19:42

هذا تشتيتاً فظيعاً

19:43

للانتباه". "أنا آسف

19:44

لأنني فعلت ذلك ولست

19:45

أخطط لتقديم الـ 25

19:46

مليوناً الإضافية".

19:47

أعني، يمكنك الرد على

19:48

موضوع بروكمان

19:49

تحديداً. هناك أيضاً

19:50

مسألة أوسع تتعلق

19:51

بأموال الذكاء

19:51

الاصطناعي والسياسة،

19:52

التي تتدفق بغزارة من

19:53

كلا الجانبين، أليس

19:54

كذلك؟ لكنني أريد

19:55

الحصول على إجابتك

19:56

المحددة بشأن بروكمان.

19:57

>> لم أرَ ما يتعلق

19:58

ببروكمان، لذا لا أريد

19:59

التعليق على ذلك، لكن

19:59

يمكنني الرد على

20:00

المسألة العامة إذا

20:01

كان ذلك مناسباً.

20:02

>> حسناً، هل يمكنني أن

20:03

أسألك أولاً، هل

20:04

تواصلت معك منظمة LTFF

20:05

أو أي منظمات سياسية

20:06

أخرى؟ حسناً، لطلب

20:07

تبرعات؟ ولا أي نشاط

20:09

سياسي؟

20:09

>> لا، لقد دعمت بعض

20:10

المرشحين في الماضي،

20:11

ولكن الآن بما أنني

20:12

أرى أن الذكاء

20:13

الاصطناعي في قلب

20:14

الأحداث، ونحن نتعامل

20:15

مع الحكومة، فأنا لا

20:16

أتبرع لأي مرشح، لكنني

20:18

دعمت أفراداً في

20:19

الماضي.

20:19

>> مهم. نعم، لكن هناك هذا

20:21

التدفق الكبير لأموال

20:22

الذكاء الاصطناعي في

20:23

السياسة. وبصراحة، أنت

20:24

تعلم أن رئيسك

20:24

التنفيذي، أو منافسك،

20:26

أظن داريو في شركة "

20:27

أنثروبيك"، تبرع

20:27

لمجموعات سلامة

20:28

الذكاء الاصطناعي،

20:29

وكذلك لمرشحين يروجون

20:30

لسلامة الذكاء

20:31

الاصطناعي، وتحديداً

20:32

أليكس بوريس في

20:33

نيويورك. هم يضخون

20:34

الأموال من جانب،

20:35

ورؤوس الأموال

20:36

الاستثمارية ورئيسك

20:37

يضخون الأموال من

20:38

الجانب الآخر. كيف

20:39

تعتقد أن كل تلك

20:40

الأموال أثرت على تصور

20:41

الذكاء الاصطناعي بين

20:43

السياسيين والجمهور؟

20:44

>> حسناً، هناك شيء ما لا

20:46

يعمل بوضوح. أنا لا

20:47

أعتقد أن تصور الذكاء

20:48

الاصطناعي وصل إلى

20:49

المستوى الذي نريده،

20:50

لذا...

20:51

>> نعم.

20:52

>> أتفهم لماذا يحظى

20:53

الذكاء الاصطناعي

20:55

بتصور سلبي للغاية في

20:56

الوقت الحالي. الناس

20:58

يحبون استخدام

21:00

الأدوات في كثير من

21:01

الحالات، يتحدثون عن

21:03

كل الطرق التي تجعل "

21:05

تشات جي بي تي" حياتهم

21:06

أفضل أو أسهل أو يقوم

21:08

بأشياء مفيدة ويوفر

21:10

عليهم الوقت. لكن هناك

21:12

الكثير من القلق بشأن

21:13

ما سيكون عليه التأثير

21:15

الاقتصادي لكل هذا.

21:16

هناك خوف حقيقي وأعتقد

21:18

أنه مبرر تماماً بشأن

21:19

تركيز السلطة. وهناك

21:21

خوف آخر، مثلاً، ماذا

21:22

لو خرج رئيس أبحاث

21:23

السلامة في "أنثروبيك"

21:25

ليقول إن هناك احتمال

21:26

10%أننا سنموت أو شيء من

21:27

هذا القبيل، وهو أمر

21:29

أكرهه لأن ذلك الشخص

21:30

يجب أن يملك القدرة

21:31

على خفض ذلك الرقم. إنه

21:33

ليس رقماً ثابتاً. لذا

21:35

، ليس مفاجئاً بالنسبة

21:36

لي أن يشعر الناس بكل

21:38

هذا، ولا أعتقد أن

21:39

إنفاق المال على

21:40

السياسة هو ما سيجعل

21:42

الناس يشعرون بتحسن

21:43

تجاهه. اممم،

21:44

>> إذن، هل تعتقد أن

21:46

الصناعة يجب أن...عذراً

21:47

، تفضل.

21:48

>> لا، أعتقد أن القطاع

21:49

بحاجة إلى إيجاد طريقة

21:51

لمعالجة المخاوف

21:52

الحقيقية، وأرى

21:52

حالياً أن الكثيرين في

21:54

هذا المجال يتصرفون

21:55

بأسلوب يفتقر إلى

21:56

الإدراك.

21:57

>> إذن، هل تعتقد أنه يجب

21:58

تقليص الإنفاق في سباق

22:00

2028 من جميع الأطراف

22:01

لمحاولة معالجة تلك

22:02

النقطة المتعلقة

22:03

بتركيز السلطة الذي

22:05

ينظر إليه الناس

22:06

جزئياً؟ أعني، ماذا

22:07

تقول بشأن إمكانية

22:09

تقليص الإنفاق في

22:10

الدورة الانتخابية

22:11

القادمة؟

22:12

>> كيف يمكن أن يعمل ذلك

22:13

من الناحية العملية؟

22:15

>> أعني فقط، هناك مئات

22:16

الملايين من

22:17

الدولارات تتدفق الآن

22:18

من مختبرات الذكاء

22:19

الاصطناعي إلى

22:20

المرشحين ولجان العمل

22:21

السياسي، وليس من

22:22

جانبكم فقط، بل من

22:23

شركات رأس المال

22:23

الاستثماري، ومن "

22:24

أنثروبيك"، ومن...

22:25

>> هل تعتقد أن على قطاع

22:26

الذكاء الاصطناعي

22:27

بأكمله الموافقة على

22:28

التوقف عن تمويل

22:29

السياسة؟

22:29

>> نعم، ربما تباطؤ أو

22:30

تنظيم وتيرة الإنفاق

22:32

السياسي.

22:32

>> أم، أعني، بشكل عام،

22:34

أود رؤية أموال أقل

22:35

بكثير في السياسة. لا

22:37

أعتقد أن ذلك يحسن

22:38

ديناميكيات نظامنا

22:39

السياسي، لكنني لا

22:41

أعرف كيف، ولا أعتقد

22:42

أنني أو القطاع نملك

22:44

القوة لنزع فتيل ذلك،

22:45

ولا أعتقد أنه من

22:46

المنطقي إخبار بعض

22:47

الناس بأنهم يستطيعون

22:49

التبرع والآخرين لا

22:50

يستطيعون. إذا كان

22:51

لديك وسيلة لتقليل

22:52

الأموال في السياسة،

22:54

سأكون سعيداً جداً

22:55

بدعمها إذا أمكن تحقيق

22:56

ذلك بشكل عام.

22:56

>> نعم، هذا ليس ضمن مهام

22:58

وظيفتي، لسوء الحظ.

22:59

>> ولا ضمن مهامي أيضاً،

23:00

للأسف. لكنني أعتقد

23:01

أنه سيكون أمراً جيداً

23:02

.

23:03

>> بالتأكيد. نعم، الجميع

23:04

يقول ذلك. نعم، ثم

23:05

تتغير الأمور عندما

23:06

يحين وقت الانتخابات.

23:08

أريد أن أنتقل إلى

23:09

الولايات لفترة وجيزة.

23:10

ذكرت "بوليتيكو" أنك

23:11

أرسلت رسالة نصية إلى

23:12

حاكم كاليفورنيا

23:12

غافين نيوسوم بشأن

23:13

مشروع قانون سلامة

23:14

روبوتات الدردشة

23:15

للأطفال قبل تمريره في

23:16

الهيئة التشريعية هذا

23:17

الصيف. هل ترى نيوسوم

23:18

شريكاً في سياسة

23:19

الذكاء الاصطناعي؟ هل

23:20

تعتقد أنه يمكنه إصلاح

23:21

العلاقات بين الحزب

23:23

الديمقراطي ووادي

23:24

السيليكون؟

23:25

>> أم...أنا معجب به. أعتقد

23:28

ذلك، ولطالما وجدته

23:30

شخصاً يفكر بعمق في

23:31

محاولة جمع العديد من

23:33

القوى في الولاية معاً

23:35

. لذا، نعم، أعتقد أنه

23:36

يمكنه لعب دور في ذلك.

23:38

>> حسناً، نعم. أعني، من

23:40

الواضح أنه مرشح رئاسي

23:41

. هل ترى أي...أو، كما

23:43

تعلم، مرشح رئاسي

23:44

محتمل جداً. من المرجح

23:46

أن يكون على بطاقة

23:46

الاقتراع أو، كما تعلم

23:47

، في نوع ما من

23:48

الاقتراع في مرحلة ما.

23:49

هل ترى أي مرشحين

23:50

رئاسيين محتملين

23:51

آخرين موجودين في

23:52

قائمة اتصالاتك

23:52

السريعة؟ أعني، من

23:53

غيرك الذي تتحدث معه

23:54

بانتظام حول الذكاء

23:55

الاصطناعي أو حول

23:56

السياسة أو أي شيء

23:57

يتعلق بسباق الوصول

23:58

إلى البيت الأبيض؟

24:00

>> أم أخطط لبذل قصارى

24:02

جهدي للعمل مع أي شخص

24:04

سيكون الرئيس القادم،

24:05

لكنني لا أقضي الكثير

24:07

من الوقت مع المرشحين

24:08

المحتملين بعد. سأعمل

24:10

مع أي شخص يتولى رئاسة

24:12

الولايات المتحدة

24:13

عندما يحدث ذلك.

24:14

>> بالتأكيد. لقد تحدثت

24:16

للتو إلى نيوسوم لأنك

24:17

في كاليفورنيا ومن

24:18

الواضح أن هذه أمور

24:19

حيوية.

24:19

>> نعم، أعني، إنه حاكم

24:21

ولايتنا.

24:21

>> نعم، نعم. هل هناك أي

24:23

قادة عالميين تتحدث

24:24

معهم بشكل متكرر حول

24:25

الذكاء الاصطناعي أو

24:26

تعتقد أنهم يمهدون

24:27

الطريق حقًا هنا فيما

24:28

يتعلق بالسياسة أو

24:29

أمور أخرى؟

24:30

>> أم أعني، كلهم يتحدثون

24:32

عن الذكاء الاصطناعي

24:34

بطريقة أو بأخرى. لا

24:35

أعتقد أنني أجريت

24:36

محادثة مع زعيم عالمي

24:36

في العامين الماضيين

24:37

لم يكن فيها الذكاء

24:38

الاصطناعي أولوية

24:39

قصوى بالنسبة لهم.

24:40

>> لكن من الذي أثار

24:41

إعجابك؟ من الذي يثير

24:42

إعجابك أكثر من حيث

24:43

سياساته بشأن الذكاء

24:44

الاصطناعي أو خططه

24:44

لهذه التكنولوجيا؟

24:45

>> أم مرة أخرى، هناك

24:48

الكثير ممن يقومون

24:49

بعمل جيد. الشخص الذي

24:51

تبادر إلى ذهني بينما

24:52

كنت تقول ذلك هو

24:53

الرئيس الفرنسي. أعتقد

24:54

أنه مفكر للغاية وقد

24:55

كان كذلك لفترة طويلة

24:56

فيما يتعلق بالوجهة

24:57

التي نتجه إليها وما

24:58

يجب أن يبدو عليه شكل

24:59

المستقبل.

24:59

>> حسناً. نعم، بالانتقال

25:01

بإيجاز إلى الأمن

25:02

القومي وبعض المخاطر

25:03

التي تواجه الشركات

25:04

الرائدة. لقد كانت

25:05

شركة OpenAI صريحة للغاية

25:07

بشأن التقطير العدائي

25:08

القادم من شركات صينية

25:10

مثل Moonshot. لذا،

25:11

التقطير هو ببساطة

25:12

استخدامهم لنماذج

25:12

الذكاء الاصطناعي

25:13

الخاصة بكم لتدريب

25:14

نماذجهم بجزء بسيط من

25:15

التكلفة، ويمكنهم

25:16

بالتالي تقويض

25:17

أسعاركم نتيجة لذلك.

25:18

هل تعتقد أن هجمات

25:20

التقطير هذه تقوض

25:21

نموذج عمل OpenAI بشكل

25:23

جوهري؟

25:24

>> أم، إنه أمر مثير

25:26

للاهتمام. نحن نقوم

25:28

بعمل رائع من الناحية

25:30

الاقتصادية. ومن ناحية

25:32

أخرى، هناك هذا القلق

25:34

المستمر من وجود كل

25:35

هذا الضغط، وفي بعض

25:36

الأيام يأتي من

25:37

المنافسين، وفي أيام

25:38

أخرى من النماذج

25:39

مفتوحة المصدر. أم،

25:40

ولكن في أيام أخرى

25:41

يأتي من شيء آخر. ما

25:43

أود قوله هو أننا نريد

25:44

التأكد من احتفاظنا

25:46

بالريادة، وأن نتمكن

25:47

من حماية الأمن القومي

25:48

، وأن يحصل الناس على

25:50

وصول وفير للذكاء

25:51

الاصطناعي. وكما هو

25:52

الحال في أجزاء أخرى

25:53

كثيرة من هذه المحادثة

25:55

، هناك مجموعة معقدة

25:56

من المقايضات هنا.

25:57

>> بالتأكيد. أعني، من

25:59

الواضح أنكم تدقون

25:59

ناقوس الخطر بشأن

26:00

هجمات التقطير هذه،

26:01

لكن ليس من الواضح

26:02

حقًا ما الذي يمكن

26:03

للناس القيام به

26:04

حيالها. أعني، هل

26:04

تعتقدين أن على

26:05

الحكومة الأمريكية

26:06

بذل المزيد من الجهد

26:07

للتصدي لعمليات

26:07

التقطير العدائي من

26:08

الصين؟

26:08

>> حسناً، أعتقد أن هناك

26:09

الكثير من الأمور التي

26:10

يمكن للناس القيام بها

26:11

حيال ذلك. المشكلة هي

26:12

أن هناك الكثير من

26:13

المقايضات في كل تلك

26:14

الأمور. نحن، على سبيل

26:15

المثال، يمكننا طرح

26:16

منتجات بطرق مختلفة

26:17

تجعل تقطيرها أصعب

26:18

بكثير، لكن ذلك سيقلل

26:19

من الإبداع المفتوح،

26:21

ونحن لا نريد حقاً

26:22

القيام بذلك. بالتأكيد

26:23

لا نريد أن نُجبر على

26:24

فعل ذلك. أمم، الـ...لذا

26:26

، أعتقد أن هناك

26:27

الكثير من الأشياء

26:28

التي يمكن للناس

26:29

القيام بها هنا. لكنها

26:31

جميعاً تنطوي على

26:32

مقايضات، وبعضها

26:33

يتعلق بالسياسة

26:33

الوطنية، وبعضها

26:34

الآخر يتعلق بتنافس

26:35

الشركات الطبيعي.

26:37

>> أعني، هل لديكم تفضيل

26:38

لما يجب القيام به، أم

26:39

أنكم تعملون على...

26:40

>> لا تزال قيد النقاش

26:41

الفعلي. لا أعتقد أننا

26:42

مستعدون للقول الآن: "

26:43

هذا هو الشيء الذي

26:44

ندعمه حقاً".

26:44

>> أجل. حسناً، عندما

26:46

تتوصلون إلى ذلك،

26:47

عليكم المجيء إلى "

26:47

بوليتيكو" وإخبارنا.

26:49

يبدو ذلك جيداً. حسناً

26:50

، يُقال إن شركة OpenAI

26:51

ملتزمة بإنفاق حوالي

26:53

750 مليار دولار على

26:54

الحوسبة من الآن وحتى

26:55

عام 2030. أعتقد أن هذا

26:56

ورد في صحيفة "وول

26:57

ستريت جورنال" خلال

26:58

الصيف. لكن، كما

26:59

تعلمين، ظروف

27:00

الائتمان تزداد

27:01

تشدداً، وقد تم تصنيف

27:02

شركتكم كمخاطر

27:03

ائتمانية لشركات مثل "

27:05

أوراكل"، التي تعد في

27:06

طليعة التوسع الهائل

27:07

وبناء هذه البنية

27:08

التحتية. هل تؤدي هذه

27:09

الديناميكية إلى رفع

27:11

التكاليف على OpenAI، أم

27:12

من المتوقع أن ترفع

27:14

التكاليف عليها؟

27:15

>> أعتقد أن سلاسل

27:16

التوريد هي التي ترفع

27:17

التكاليف أكثر بكثير

27:19

من أسواق التمويل.

27:20

التمويل لا يزال-لن

27:21

أقول يسهل الحصول عليه

27:23

-لكنه متوفر بكثرة،

27:24

بينما تبدو رقائق

27:25

السيليكون أكثر شحاً،

27:27

وهنا يحدث الجزء

27:28

الأكبر من ارتفاع

27:29

التكاليف.

27:30

>> حسناً. قامت OpenAI

27:32

بتأجيل طرحها العام

27:34

الأولي حتى عام 2027. هل

27:36

تفكرون في تأجيله أكثر

27:38

؟

27:39

>> أمم، أعتقد أنه عندما

27:42

نحقق بعض حالات الأمان

27:44

ونرى أننا نستطيع

27:45

العمل جيداً في هذا

27:47

النظام الجديد، قد تظل

27:49

هناك تغيرات في السوق

27:51

تجعلنا نفكر في الأمر

27:53

بشكل مختلف؛ فأمور غير

27:54

متوقعة يمكن أن تحدث

27:56

في العالم. لكن من

27:58

منظور الأمان

27:59

وبالتأكيد من منظور

28:00

مالي، أتوقع أن نكون

28:02

مستعدين.

28:03

>> حسناً. أجل، كان هناك

28:04

الكثير من الحديث حول

28:06

جهود التنظيم هذه،

28:07

والتي أعتقد أنها كانت

28:08

بقيادة القطاع بشكل

28:09

كبير. هناك الكثير من

28:10

الأحاديث حول إنشاء

28:11

هيئة تنظيمية للذكاء

28:12

الاصطناعي على غرار "

28:13

فينرا". أعلم أنك

28:14

وداريو وديميس

28:15

هاسابيس في جوجل ديب

28:16

مايند تتحدثون كثيراً

28:17

عن هذا الأمر. هيئة

28:18

تنظيم ذاتي قادرة على

28:19

تبادل المعلومات،

28:20

وربما تنسيق تباطؤ

28:21

العمل إذا أصبحت

28:21

الأمور مخيفة للغاية.

28:22

مم، كيف تتناقشون

28:24

جميعاً حول ذلك؟ هل

28:25

هناك قناة على واتساب

28:26

مثلاً، أم كيف

28:27

تتواصلون بشأن هذا؟

28:28

>> لا يوجد تطبيق واتساب

28:30

كبير يضم الجميع. لكن

28:31

هناك الكثير من

28:32

اللقاءات العفوية بين

28:33

الناس في نفس

28:34

المؤتمرات. هناك

28:35

مكالمات، واجتماعات

28:36

تعليمية، وأشياء من

28:37

هذا القبيل.

28:38

>> حسناً. هل تعتقد أن

28:39

الحكومة بحاجة لمنح

28:40

كبرى شركات الذكاء

28:41

الاصطناعي إعفاءً من

28:42

مكافحة الاحتكار

28:43

لتتمكن من التنسيق

28:44

هكذا؟ هذا ما قاله

28:45

داريو وديميس هاسابيس.

28:46

>> أكرر، لست محامياً،

28:48

لكن حسب فهمي فإن

28:49

القانون واضح تماماً

28:50

بشأن ما يسمح لنا به.

28:51

أعني، لا يمكننا القول

28:52

: "لنحدد أسعار نماذجنا

28:54

هنا". من الواضح أن هذا

28:55

ليس جيداً، أو أن نقول

28:56

"لن نطلق هذا" أو أي شيء

28:58

مشابه، لكن أعتقد أن

28:59

القانون واضح بشأن

29:00

السماح لنا بتبادل

29:01

أفضل ممارسات السلامة

29:02

وتقارير الحوادث وما

29:03

شابه ذلك.

29:03

>> لماذا تعتقد أن شركة "

29:05

أنثروبيك" تطالب

29:06

بإعفاء من مكافحة

29:07

الاحتكار؟

29:08

>> عليك أن تسألهم هم عن

29:10

ذلك.

29:11

>> ممم. نعم، هناك الكثير

29:13

من أفلام الذكاء

29:14

الاصطناعي التي تصدر

29:15

هذه الأيام. أحدها

29:17

يقوم فيه أندرو

29:18

غارفيلد بدورك. أعتقد

29:19

أن اسمه "اصطناعي"(

29:21

Artificial). أظن أنه ربما

29:22

ينبغي أن يسمى "فائق"(

29:23

Super) في ظل الإطار

29:24

الجديد. مم، من الذي

29:25

يجب أن يقوم بدورك؟

29:26

أعني، هل أندرو

29:27

غارفيلد شخصية مناسبة

29:28

؟ هل لديك شخص آخر في

29:30

ذهنك؟ الجميع يفكر في

29:31

هذا، أليس كذلك؟

29:32

>> من الذي يجب أن يمثل

29:33

دورهم في فيلم؟

29:34

>> من الذي يجب أن يمثل

29:35

دورك في فيلم؟

29:36

>> أوه، لم أفكر في الأمر

29:37

أبداً قبل حدوث هذا. مم

29:39

، أنا..اعتقدت أنه كان

29:41

جيداً جداً في فيلم

29:42

سبايدرمان. نعم.

29:44

>> حسناً.

29:45

>> أعني، لا أعلم. أظن أنه

29:47

سيكون أمراً غريباً

29:49

بغض النظر عن أي شيء.

29:50

آه.

29:51

>> نعم.

29:51

>> لكنني أحب الناس،

29:53

وأتمنى أن يكون الفيلم

29:55

مسلياً. أتمنى أن يكون

29:56

مضحكاً. أنا متأكد من

29:58

أنه لن يكون دقيقاً،

29:59

لكن آمل أن يكون

30:00

مضحكاً وممتعاً

30:01

للمشاهدة.

30:01

>> نعم، نعم. مم، أريد أن

30:03

أسأل أكثر قليلاً عن

30:05

مسألة الصين بينما لا

30:06

تزال معنا هنا. التفكك

30:08

شيء، لكن...هناك أيضاً

30:10

هذا السؤال الأوسع حول

30:11

السباق مع الصين. ولا

30:13

أعرف مدى دقة تتبعكم

30:15

لمن هو في المقدمة. لست

30:17

متأكداً تماماً كيف

30:18

تتعقبون ذلك. مم، هل

30:20

تتابعون ذلك؟ أنت تعلم

30:22

، من هو في الصدارة في

30:23

هذا المجال، وكيف تقيم

30:24

الوضع، تعلم أن OpenAI و

30:26

Anthropic هما الرائدتان

30:27

في هذا المجال، فإلى

30:28

أي مدى تتفوقون على

30:29

الصين أو الشركات

30:30

الصينية الأخرى؟

30:31

>> أعتقد حقاً أننا في

30:33

الصدارة. أعتقد أنه من

30:35

الصعب جداً وضع رقم

30:37

محدد لمدى تقدمنا، لأن

30:39

هناك العديد من

30:40

القرارات التي تؤثر

30:42

على هذا الرقم. لذا

30:43

يمكنني القول بثقة

30:45

معقولة إنني أعتقد أن

30:47

أفضل نموذج داخلي

30:48

لدينا يتفوق كثيراً

30:50

على أفضل نموذج داخلي

30:51

لدى أي شركة صينية. لكن

30:53

من الصعب قليلاً تحديد

30:55

مقدار هذا التقدم

30:56

بالضبط.

30:56

>> أنا فضولي لمعرفة كيف

30:58

عرفت ذلك. أعني، يبدو

30:59

هذا كشيء قد يعرفه

31:00

محلل استخباراتي، لكن

31:01

...

31:01

>> أنت لا تعرف. كنت سأقول

31:03

للتو إن لدينا أسباباً

31:05

للاعتقاد بذلك. لكن

31:06

الأمر ليس مثالياً،

31:08

وأتمنى لو كنت أعرف

31:09

ذلك بثقة مطلقة.

31:10

>> أجل. مم، هل تشارككم

31:12

الحكومة معلومات حول

31:13

هذا الأمر؟ أفترض أنهم

31:14

يراقبون المختبرات

31:16

الصينية.

31:16

>> أعني ربما يشاركونها

31:17

مع شخص آخر في OpenAI لديه

31:19

تصريح أمني أو شيء من

31:20

هذا القبيل. لكنهم لم

31:21

يخبروني أبداً أنكم

31:22

تسبقون هذا الجهد بـ X

31:23

من الأشهر، وهذا هو

31:24

الوضع.

31:25

>> ربما سيضيف ذلك ضغطاً

31:26

إضافياً غير ضروري. مم

31:27

، أريد أن أسألك، أنت

31:29

كنت هنا في حفل العشاء

31:30

الرسمي. أجل. كان هناك

31:32

الكثير من الضغط

31:33

للتوصل إلى نوع من

31:34

الاتفاق مع الحكومة

31:35

الصينية بشأن وتيرة

31:36

العمل. يبدو أن الرئيس

31:38

لا يريد أن يفعل شيئاً

31:39

حيال ذلك. وأنا فضولي

31:41

لمعرفة ما إذا كنت

31:42

تعتقد أن أي نوع من

31:44

الاتفاق مع الصينيين

31:45

ممكن على المدى القريب

31:47

في ظل هذه الإدارة.

31:49

>> أفترض أن شيئاً ما

31:50

ممكن. أعني، لا أعرف

31:52

الشكل الدقيق لما يمكن

31:54

إنجازه، لكن هذا

31:55

الرئيس بارع في عقد

31:57

الصفقات.

31:58

>> أجل. هل تعتقد أن الأمر

31:59

يحتاج إلى التصاعد عبر

32:01

السلسلة؟ أعني، الشيء

32:02

الوحيد الذي وصفه لي

32:03

الناس هو أنه يجب عليك

32:04

تنظيم بيتك أولاً،

32:04

وربما تحتاج بعد ذلك

32:05

للذهاب إلى الدول

32:06

الديمقراطية لنرى ما

32:07

إذا كان بإمكاننا

32:08

جميعاً الاتفاق على

32:09

نفس النهج. وبعد حدوث

32:10

ذلك، يمكنك الذهاب إلى

32:11

الصينيين. هل يمكنك

32:13

اختصار تلك العملية أم

32:14

يجب أن تسير وفق تلك

32:15

السلسلة في رأيك؟

32:16

>> أنت هنا تسأل الشخص

32:17

الخطأ، فمن المحتمل

32:18

أنك تعرف الكثير من

32:19

الخبراء في الأمور

32:19

الدولية المعقدة. إذا

32:20

كان لديك سؤال حول

32:21

تقنية الذكاء

32:22

الاصطناعي، يمكنني أن

32:23

أقدم لك إجابة جيدة.

32:24

>> حسناً. أجل، أجل. لقد

32:26

أنجزت عملاً دولياً

32:26

معقداً. أنا على

32:27

الأرجح لست أذكى شخص

32:28

يمكنك سؤاله.

32:29

>> ربما يكون هذا سؤالاً

32:30

لفريق السياسات الخاص

32:31

بك. مم، وأظن أنه عندما

32:33

يتعلق الأمر بالصين،

32:35

إيه، الموقف هناك.

32:37

أعني، هل تراهم

32:38

تهديداً كبيراً للأمن

32:40

القومي فيما يتعلق

32:41

بالذكاء الاصطناعي؟

32:42

أعني، كانت هناك

32:43

محاولات لفرض قيود على

32:44

الصادرات، إيه، على

32:46

تدفق رقائق الذكاء

32:47

الاصطناعي إلى الصين.

32:48

مم، بعض تلك القيود

32:49

مطبق بالفعل. إيه،

32:51

هناك جهود لتشديدها في

32:52

الفترة القادمة، إيه،

32:53

فترة "البطة العرجاء"،

32:54

بغض النظر عمن سيفوز

32:55

في الانتخابات. هل

32:56

تعتقد أنها كانت فعالة

32:58

؟

32:59

>> أعتقد في الوقت ذاته

33:00

أن الأمر يمثل بوضوح

33:03

قضية أمن قومي كبرى

33:05

بشأن استخدام الدول

33:06

لذكاء اصطناعي أكثر

33:07

قوة ضد بعضها البعض،

33:08

وهذا جزء من سبب رغبتي

33:10

في التوصل إلى نوع من

33:11

الاتفاق هنا. وكما

33:12

تعلم، لقد فعلنا ذلك

33:14

مع تقنيات أخرى ذات

33:15

أثر مزعزع في تاريخنا،

33:17

حتى بين دول لا تكن

33:18

لبعضها الود. وأعتقد

33:21

أيضاً أن طبيعة هذه

33:22

التقنية غير معتادة

33:24

لدرجة أن تطبيق أساليب

33:26

التقييد التي نجحت في

33:28

الماضي، كما في مثال

33:29

التكنولوجيا النووية

33:31

حيث يمكنك التركيز على

33:33

المواد الخام وما شابه

33:35

، لن تنجح بنفس

33:36

الطريقة. لذا، أظن أن

33:40

الكثير من النهج

33:41

الحالي يعتمد على حقبة

33:43

تفكير ولت.

33:45

>> إذن، أنت تعتقد أن

33:46

قيود التصدير هي

33:47

محاولة قديمة الطراز

33:49

لـ

33:49

>> أعني، ربما توجد نسخة

33:51

منها يمكن أن تنجح،

33:52

لكن، كما تعلم، يمكنك

33:53

تدريب نموذج في بلد

33:55

آخر، وعندما ينتهي

33:56

الأمر، ما عليك سوى

33:57

إرسال الأوزان عبر

33:58

الإنترنت. إنه شكل

34:00

مختلف من الأشياء.

34:01

>> أجل. لقد ضغطت شركة "

34:03

أنثروبيك" بشدة من أجل

34:04

فرض قيود على التصدير.

34:05

وهم في الواقع متشددون

34:06

جداً تجاه الصين هناك.

34:07

يعتقدون أن السبيل

34:08

للتفوق على الصينيين

34:09

في هذا المجال هو

34:10

تقييد وصولهم إلى

34:10

الأجهزة الأمريكية. مم

34:12

، هل تشاركهم هذا

34:13

الرأي؟ هل تعتقد أن

34:14

هذا شيء ما بطريقة ما

34:16

>> هذا يندرج ضمن فئة

34:17

الأمور التي، حسناً،

34:18

أكرر، أريد أن يستفيد

34:19

العالم بأسره من هذه

34:20

التقنية، في المقام

34:21

الأول. لذا، فكرة أن

34:22

الأمريكيين وحدهم يجب

34:23

أن يستفيدوا، وألا

34:24

نريد للشعب الصيني

34:25

الحصول على ذلك، أنا

34:26

لا أحب هذه العقلية.

34:27

لكنني أعتقد أن هناك

34:29

تداعيات حقيقية للقوة

34:31

الجيوسياسية. مم، لكن

34:33

ليس من الواضح بالنسبة

34:35

لي أن تدفق الرقائق

34:36

سيكون أفضل طريقة

34:38

للتعامل مع هذه

34:39

المشكلة.

34:40

>> ممم. وقد ذكرت في بداية

34:42

هذا الحوار أنك قلق

34:44

بشأن تركيز السلطة بين

34:45

الأفراد، وأيضاً بين

34:47

الدول، وربما دولة

34:48

واحدة. مم، هذا لا يبدو

34:50

متوافقاً تماماً مع

34:51

مبدأ "أمريكا أولاً"،

34:52

لكنه يوحي بأنك ترى أن

34:53

هذه تكنولوجيا يجب أن

34:55

يتشاركها الجميع. لو

34:57

كان بإمكاني التلويح

34:58

بعصا سحرية، لقلت إن

35:00

أمريكا تمتلك أقوى

35:02

نماذج الذكاء

35:03

الاصطناعي، وأكبر قدر

35:05

من الحوسبة، وأن

35:07

أمريكا هي من تقود

35:08

القرارات السياسية في

35:10

العالم. أنا أحب

35:12

النظام الأمريكي

35:13

وإطار القيم

35:14

الأمريكية، وبالطبع

35:15

أحب أمريكا. مم، لكنني

35:16

لا أعتقد أنه يجب أن

35:17

يستفيد الأمريكيون

35:18

وحدهم من هذه

35:19

التكنولوجيا أو أن

35:20

يكون لهم وحدهم رأي في

35:21

المستقبل، أو أن يكون

35:22

هناك تركيز غير متكافئ

35:23

للسلطة على حساب بقية

35:24

العالم.

35:25

>> مم، حسناً يا سام،

35:26

شكراً جزيلاً لك. كان

35:27

هذا رائعاً. أود أن

35:28

نكرر ذلك مجدداً. مم،

35:29

وشكراً جزيلاً لك على

35:30

حضورك في الحلقة

35:31

الافتتاحية. هذا رائع.

35:33

>> اعتني بنفسك.

Interactive Summary

Loading summary...