YouTube Distilled
HomeVideos

Is A.I. More Like an ‘Alien Mind’ or the Lightbulb? | The Ezra Klein Show

Watch on YouTube

Now Playing

Is A.I. More Like an ‘Alien Mind’ or the Lightbulb? | The Ezra Klein Show

Transcript

2622 segments

0:00

يدور في ثنايا الحلقات

0:02

التي قدمناها،

0:03

والنقاش الذي تشهده

0:05

البلاد حول الذكاء

0:06

الاصطناعي، سؤال بسيط

0:08

في ظاهره لكنه صعب في

0:10

جوهره، وهو: ما نوع

0:12

التكنولوجيا التي

0:13

يمثلها الذكاء

0:14

الاصطناعي؟ هل هي

0:16

تكنولوجيا تعمل

0:17

بطريقة تشبه إلى حد ما

0:19

التقنيات التي سبقتها

0:20

؟ هل يمكن مقارنتها

0:22

بالكهرباء، أو

0:23

الإنترنت، أو الدراجة

0:24

، أو ما شابه ذلك؟ أم

0:26

أنها شيء جديد كلياً؟

0:29

هل إضافة الذكاء

0:31

والإرادة إلى هذه

0:32

الأنظمة تعني خلق شيء

0:34

أشبه بعقل غريب، بحيث

0:36

لم تعد القياسات التي

0:38

استخدمناها مع

0:39

التقنيات التحويلية

0:40

السابقة صالحة؟

0:44

أرفيند نارايانان هو

0:46

أستاذ علوم الكمبيوتر

0:47

في جامعة برينستون

0:48

ومدير مركز تكنولوجيا

0:50

المعلومات والسياسات.

0:52

وهو مؤلف مشارك مع ساش

0:53

كابور للمقال المؤثر

0:55

جداً: "الذكاء

0:56

الاصطناعي كتكنولوجيا

0:57

عادية". هناك منصة "

0:58

سابستاك" تحمل الاسم

0:59

نفسه، بالإضافة إلى

1:00

سلسلة من المقالات،

1:01

منها مقال جيد جداً في

1:02

رأيي، نُشر مؤخراً حول

1:03

اختراقات "هاغينغ فيس".

1:05

وفي هذه المجموعة من

1:06

الحجج، يطرحون فكرة أن

1:07

الذكاء الاصطناعي في

1:09

الواقع هو شيء رأيناه

1:10

من قبل، أو على الأقل

1:11

يشبه إلى حد كبير ما

1:13

رأيناه سابقاً، مما

1:14

يعني أن لدينا خارطة

1:15

طريق للتعامل معه. لذا

1:17

، أردت استضافته في

1:18

البرنامج ليوضح وجهة

1:20

النظر هذه. أرفيند

1:28

نارايانان، أهلاً بك

1:29

في البرنامج.

1:30

>> يسعدني جداً أن أكون

1:31

هنا يا عزرا.

1:32

>> إذاً، مقالك الرئيسي

1:34

الذي شكل إطاراً

1:35

للكثير من أعمالك يحمل

1:37

عنوان "الذكاء

1:38

الاصطناعي كتكنولوجيا

1:39

عادية". ما هي وجهة

1:41

النظر التي تجادل ضدها

1:43

؟ هناك ضمناً فرضية "

1:44

الذكاء الاصطناعي

1:45

كتكنولوجيا غير عادية"

1:46

. فكيف تصف أطروحة "

1:48

الذكاء الاصطناعي

1:49

كتكنولوجيا غير عادية"

1:50

؟

1:50

>> إنها تنبع أساساً من

1:51

وجهة نظر ترى أننا

1:53

سنصل إلى لحظة يتم

1:54

فيها بناء ذكاء فائق،

1:55

وسوف يغير كل شيء،

1:56

سواء على الصعيد

1:57

الاقتصادي أو على صعيد

1:59

السلامة. بالنسبة لنا،

2:00

لن يكون هناك معلم أو

2:02

عتبة ستكون آثارها

2:03

مفاجئة. ما نقوله هو

2:04

أننا لطالما اتبعنا

2:06

نهجاً معيناً في

2:06

التعامل مع

2:07

التكنولوجيا. إنها

2:09

أداة. قد تكون قوية.

2:11

وقد تكون متعددة

2:12

الأغراض. مثل الكهرباء

2:13

، مثل الثورة الصناعية

2:14

، قد تغير الكثير في

2:16

المجتمع. لكنها في

2:17

النهاية شيء يمكننا

2:18

التحكم فيه. نحن نمتلك

2:19

زمام الأمور. وهذا

2:21

التغيير سوف يتكشف على

2:22

مدى فترة طويلة.

2:23

>> لذا، أريد أن أحاول

2:24

شرح وجهة النظر الأخرى

2:26

، وفي بعض الأحيان

2:27

تعزيز حججها. هناك

2:28

وجهة نظر، تسمعها

2:29

كثيراً في مجتمع سلامة

2:30

الذكاء الاصطناعي.

2:32

يُطلق عليها أحيانًا "

2:33

وجهة نظر الانطلاق

2:34

المفاجئ"، نسبةً إلى

2:36

الانطلاق السريع، حيث

2:37

نبتكر يومًا ما نظام

2:39

ذكاء اصطناعي قويًا

2:40

لدرجة أنه يبدأ في

2:41

التحسين الذاتي

2:42

المتكرر، متسارعًا

2:44

نحو ذكاء فائق،

2:45

وخارجًا عن نطاق

2:46

السيطرة البشرية.

2:47

وعندها ستتعامل مع

2:49

كيان أذكى وأقوى منك

2:50

بكثير.

2:51

>> وأود أن أقول بسرعة إن

2:52

هناك الكثير من عدم

2:53

الدقة في الطريقة التي

2:55

نتحدث بها عن هذا

2:56

الأمر غالبًا. لقد

2:57

استخدمت العبارة،

2:57

ونعم، الكثير من

2:58

المعنيين بأمان

2:59

الذكاء الاصطناعي

3:00

يصيغونها بهذه

3:00

الطريقة. يوماً ما قد

3:02

نبتكر نظام ذكاء

3:03

اصطناعي قوياً للغاية.

3:04

لكنني أريد أن أقاطعك

3:05

عند هذه النقطة. قد

3:07

نبتكر يوماً ما نظام

3:08

ذكاء اصطناعي يتمتع

3:08

بقدرات عالية، وقد

3:09

فعلنا ذلك بالفعل من

3:10

نواحٍ عديدة.

3:11

>> هناك الكثير من

3:12

التدقيق اللغوي في

3:13

نقاشات الذكاء

3:13

الاصطناعي.

3:14

>> حسناً، لكن الأمر يؤدي

3:16

إلى رؤى مختلفة حول

3:17

كيفية تطور المستقبل،

3:19

والأهم من ذلك، رؤى

3:20

مختلفة حول ما يجب

3:22

علينا فعله في هذه

3:23

اللحظة وفي المستقبل.

3:25

فقط لإكمال تلك الفكرة

3:26

، كون نظام الذكاء

3:27

الاصطناعي قوياً ليس

3:29

خاصية متأصلة في

3:30

النموذج ذاته. بل هو

3:31

خاصية تعتمد على

3:32

السلطات التي نختار

3:34

منحها له في العالم

3:35

الحقيقي. هناك الكثير

3:36

من الخلط والمغالطات.

3:37

مثل القول بأننا سنضطر

3:38

بالتأكيد إلى منح هذه

3:39

الأنظمة السيطرة على

3:40

البنية التحتية

3:41

الحيوية، لأنها ستكون

3:42

أذكى منا بكثير. وجهة

3:44

نظرنا هي لا. لا يهم

3:45

مدى ذكائها. هناك

3:47

العديد من التقنيات

3:48

التي تتفوق على البشر

3:49

من حيث القوة البدنية.

3:51

وهذا لا يعني أننا

3:52

نمنحها زمام الأمور،

3:53

ويمكننا تطبيق النهج

3:54

نفسه على الذكاء

3:55

الاصطناعي.

3:56

>> لقد كتبت مقالاً

3:57

رائعاً مع زميلك

3:59

المؤلف حول كيفية

4:00

فهمكم لاختراقات "

4:01

هاجينج فيس" وحوادث

4:03

فقدان السيطرة هذه.

4:04

والنقطة التي تطرحها

4:06

هي أن هناك طريقة أخرى

4:08

للنظر إليها تختلف عن

4:09

منظور "المواءمة"، وهي

4:11

أنها إخفاقات في الأمن

4:13

السيبراني والتميز

4:15

التشغيلي. إذاً، ربما

4:16

يمكنك سرد قصة

4:18

اختراقات "هاجينج فيس"

4:19

وما الذي يجب تعلمه

4:21

منها من هذا المنظور.

4:22

>> نعم، بالتأكيد. أول

4:24

شيء يجب وضعه في

4:26

الاعتبار هو أن

4:27

القدرات الضارة التي

4:29

رأيناها لم تكن "ناشئة"

4:31

بالمعنى الحرفي.

4:33

النشوء هو فكرة أنك

4:34

تقوم بتدريب النماذج

4:36

لتصبح أفضل بشكل عام،

4:37

ولا يمكنك التنبؤ

4:38

بالقدرات الجديدة

4:39

التي ستكتسبها. لقد تم

4:41

تدريبها بشكل خاص على

4:43

مهام سيبرانية من

4:44

نواحٍ عديدة. إذن، هذا

4:46

شيء يجب أخذه في

4:47

الحسبان. لقد تم

4:48

تدريبها على

4:49

الاستمرارية والتعاون

4:51

وما إلى ذلك، وكانت

4:52

بيئات التعلم

4:53

التعزيزي التي تدربت

4:55

فيها تعاني من مشكلات

4:56

مختلفة. لم تعاقب

4:58

البيئات هذا النوع من

4:59

التواصل السري بين

5:00

النماذج. نعم، إنها

5:02

مشكلة تقنية صعبة، لكن

5:03

كانت هناك سلسلة من

5:04

القرارات البشرية

5:06

التي أدت إلى هذه

5:07

النتائج.

5:07

>> هذه نقطة مهمة، فببعض

5:09

الطرق ما أسمعه منك،

5:11

صححني إن كنت مخطئاً،

5:13

هو أنه يمكن تصميم

5:14

الذكاء الاصطناعي

5:16

ليكون تقنية أكثر أو

5:18

أقل طبيعية، وأن

5:19

قرارات التصميم

5:21

الأولية لها أهميتها.

5:22

هذا ليس أمراً حتمياً.

5:24

>> هذا صحيح تماماً.

5:26

>> لقد تحدثت عن الجهود

5:27

المبذولة لجعل أنظمة

5:28

الذكاء الاصطناعي

5:29

أكثر استمرارية. يبدو

5:30

لي أن هذا أيضاً مجال

5:32

تظهر فيه الكثير من

5:33

المشاكل.

5:33

>> بالتأكيد.

5:34

>> من ناحية أخرى، أتفهم

5:36

سبب إعطائهم الأولوية

5:38

لذلك. إذا أردت الحصول

5:40

على فوائد الذكاء

5:41

الاصطناعي التي تهمنا

5:43

في حل مشكلات صعبة

5:45

حقاً في علم الأحياء

5:46

أو تطوير الأدوية أو

5:48

الطاقة، أو ما أعتقد

5:50

أن مستثمريهم يهتمون

5:51

به، وهو القدرة على

5:53

توظيف ذكاء اصطناعي

5:54

لإنجاز عمل كامل

5:56

بتكلفة أرخص من توظيف

5:58

إنسان، أليست

5:59

الاستمرارية هي

6:00

الجودة الأساسية

6:01

المطلوبة؟ بدون

6:03

الاستمرارية، وبدون

6:04

القدرة على المحاولة

6:05

بجد في مهمة ما على مدى

6:07

فترة طويلة من الزمن،

6:08

لا يمكنك حل أي من تلك

6:10

المشكلات.

6:10

>> ربما، لكن أعتقد أن

6:12

هناك خيارات أخرى تقلل

6:13

من التوتر بين هذين

6:15

الهدفين القيمين.

6:16

أولاً، يمكن أن تكون

6:18

الاستمرارية ميزة في

6:19

النماذج أو المنتجات

6:21

المتخصصة في مجالات

6:22

معينة مثل الابتكار

6:23

العلمي. ثانياً، لا

6:25

يجب أن تتعارض

6:26

الاستمرارية مع تدريب

6:27

هذه الوكلاء على أن

6:28

يكونوا أفضل في إحالة

6:30

الأمر إلى شخص بشري

6:31

بدلاً من المضي قدماً

6:33

بأي افتراضات غير

6:34

مكتملة حول ما قد

6:35

يريده الإنسان. مساحة

6:36

التصميم هنا واسعة

6:38

جداً في الواقع.

6:39

>> هذه نسخة، أو على

6:41

الأقل هذا ما أسمعه،

6:42

من فكرة كان يطرحها

6:44

جينسن هوانغ من شركة

6:46

إنفيديا في مقابلة معي

6:48

، وهي أن هذه مشكلات

6:49

هندسية في جوهرها.

6:51

>> أنا متأكد تماماً من

6:53

أنهم سيقولون نعم، فهم

6:55

يعرفون كيفية حل هذه

6:57

المشكلة. وإذا كان

6:59

الأمر كذلك، فهذه هي

7:00

المشكلة. الأمر ببساطة

7:02

يتعلق بالهندسة.

7:04

>> هل ترى أننا ننتمي

7:05

أكثر إلى الفئة

7:06

الأخيرة، أي مشكلة

7:07

صعبة لكنها في الأساس

7:08

مشكلة هندسية يمكن

7:09

حلها باستخدام تقنيات

7:11

الهندسة التقليدية؟

7:12

>> إلى حد كبير، نعم. لن

7:14

أقول تقنيات هندسية

7:16

تقليدية. سنحتاج إلى

7:17

الكثير من الابتكار في

7:18

التقنيات الهندسية.

7:20

وأعتقد أن أحد الأمور

7:21

التي سارت بشكل خاطئ

7:22

هو أن المجتمع الأفضل

7:23

قدرة على القيام بهذا

7:25

الابتكار، خاصة عندما

7:26

يتعلق الأمر بهذه

7:27

القدرات السيبرانية

7:28

الضارة، هو مجتمع

7:30

الأمن السيبراني. لكن

7:31

يبدو لي، مما يمكنني

7:32

قوله، أنهم ينتمون

7:33

تماماً إلى معسكر جنسن

7:35

. بمعنى أن هذه ليست

7:36

مجرد مشكلة هندسية

7:37

قابلة للحل، بل هي

7:38

مشكلة هندسية تم حلها

7:39

بالفعل، وعلينا

7:40

ببساطة تطبيق تقنيات

7:41

معروفة وموجودة منذ

7:42

فترة طويلة. وأعتقد

7:43

أنه يجب علينا منح

7:44

شركات الذكاء

7:45

الاصطناعي قدراً أكبر

7:46

من التقدير من ذلك.

7:47

فالأمر ليس مجرد مسألة

7:49

تقنيات معروفة. نحن

7:50

بحاجة بالفعل إلى

7:51

ابتكار في تلك

7:52

التقنيات.

7:53

>> لذا، كن محدداً. ما

7:55

الذي كان ينبغي على

7:56

OpenAI فعله؟ ما الذي كان

7:58

يجب عليهم تعلم القيام

7:59

به الآن؟

8:00

>> نعم، لقد كانوا يبذلون

8:02

الكثير من الجهد في

8:03

تحسين المواءمة وهذا

8:04

أمر رائع. يجب عليهم

8:05

الاستمرار في القيام

8:07

بذلك. المواءمة لن

8:08

تكون مثالية. تشير

8:09

المواءمة إلى جعل

8:10

النموذج نفسه يعرف،

8:11

كما تعلم، ما هو الشيء

8:13

الصحيح الذي يجب فعله،

8:14

إذا جاز التعبير، ثم

8:15

الالتزام بتلك

8:16

السياسة. ولكن هناك

8:17

الكثير من الأشياء

8:18

الأخرى التي كان ينبغي

8:19

عليهم القيام بها بشكل

8:20

أفضل، ونأمل أن

8:21

يتمكنوا من استخلاص

8:22

الدروس للمضي قدماً.

8:23

الفئة الكبيرة الأخرى

8:25

من التدخلات التقنية

8:26

هي ما يُعرف عموماً بـ

8:28

"تحكم الذكاء

8:29

الاصطناعي". لذا، يشير

8:30

التحكم إلى كل الأشياء

8:32

الموجودة خارج

8:33

النموذج نفسه. وهذا

8:34

يشمل أشياء مثل

8:35

البيئات المعزولة،

8:36

وهي بمثابة السجن الذي

8:37

تضع فيه النموذج حتى

8:38

يُسمح له باتخاذ

8:39

إجراءات معينة وعدم

8:41

اتخاذ إجراءات أخرى.

8:42

وانظر، يجب أن تكون

8:43

البيئات المعزولة

8:45

أكثر تطوراً بكثير مما

8:46

هي عليه اليوم، لأن

8:48

تلك التي تعمل ضد

8:49

الخصوم البشر لن تنجح

8:51

بالضرورة ضد وكلاء

8:52

الذكاء الاصطناعي

8:53

القادرين على العثور

8:55

على ثغرات أمنية جديدة

8:57

في الحال. وهذا يعني أن

8:58

البيئات المعزولة

9:00

نفسها ستحتاج إلى

9:01

تعزيز مسبق من خلال

9:02

جعل وكلاء الذكاء

9:03

الاصطناعي يحاولون

9:04

اختراقها. وبالتالي

9:06

يصبح الأمر ذكاءً

9:07

اصطناعياً ضد ذكاء

9:08

اصطناعي إلى حد ما،

9:09

وأعلم أن هذا قد يكون

9:10

مزعجاً، لكنني أعتقد

9:11

أننا سنضطر للوصول إلى

9:12

ذلك. بالإضافة إلى ذلك

9:14

، هناك العديد من

9:15

الأشياء الأخرى مثل

9:16

مراقبة أفضل في الوقت

9:18

الفعلي، ومصنفات

9:19

تحاول الكشف فوراً عما

9:21

إذا كان إجراء ما أو

9:22

استخدام معين لأداة

9:23

بواسطة نموذج قد يكون

9:25

خطيراً، وأجهزة إنذار

9:26

حتى يتمكن البشر من

9:27

التدخل عند الحاجة،

9:29

وتحليل السجلات. قال

9:30

سام ألتمان على ما

9:31

يبدو إن هؤلاء الوكلاء

9:33

يولدون بيتابايت من

9:34

السجلات. هذا يعني 10 أس

9:36

15، أي 10 أس 15 بايت، ألف

9:39

تريليون بايت من

9:40

السجلات.

9:41

>> إذاً، مرة أخرى، كمية

9:43

لا يمكن تصورها من

9:44

المعلومات.

9:44

>> حسناً، أعني، لكن من

9:45

الأفضل أن نتصورها،

9:46

أليس كذلك؟ وأن نتعلم

9:48

كيفية التعامل معها.

9:49

لذا، هذه ليست مشكلة

9:50

سهلة، لكنني أعتقد

9:51

أنها مسألة يجب على

9:52

الشركات التصدي لها.

9:53

كيفية تحليل هذا الكم

9:54

من السجلات في الوقت

9:55

الفعلي لتكون قادرًا

9:56

على اكتشاف متى يذهب

9:57

شيء ما على نحو خاطئ.

9:58

وربما، كما تعلم، قد

9:59

نحتاج إلى أجهزة جديدة

10:00

لذلك. مرة أخرى، هذه

10:01

مشكلات صعبة، لكنها

10:02

مشكلات هندسية قابلة

10:04

للحل.

10:04

>> دعونا نستعرض بعض هذه

10:05

الأفكار. إذن،

10:06

المراقبة هي أمر كبير،

10:07

كما تعلم، لقد أجريت

10:08

مقابلة للتو مع بيل

10:09

جيتس. لقد تحدث كثيرًا

10:10

عن المراقبة.

10:11

>> نعم.

10:12

>> لذا، نحن نتحدث هنا عن

10:14

مواقف تختبر فيها هذه

10:16

المختبرات غالبًا

10:18

نماذج جديدة وأكثر قوة

10:20

وتجريبية. كيف تقوم

10:24

بمراقبتها؟

10:25

>> نعم، أعني أن هناك

10:27

العديد من الأدوات.

10:28

إذن، أول أداة حظيت

10:30

بالكثير من الاهتمام

10:32

هي مراقبة "سلسلة

10:33

الأفكار". فهذه

10:34

النماذج لديها نوع من

10:36

المونولوج الداخلي،

10:37

إذا أردنا تشخيصها

10:39

قليلًا. وفي كثير من

10:40

الحالات، عندما تتخذ

10:42

هذه النماذج إجراءات

10:43

غير متوافقة، تكون

10:44

هناك آثار لذلك في ذلك

10:46

التفكير الداخلي

10:47

يمكننا الاطلاع عليها

10:49

والاستجابة لها في

10:50

الوقت الفعلي، مرة

10:51

أخرى، باستخدام أنظمة

10:53

ذكاء اصطناعي أخرى.

10:54

وهذا يشير بالفعل إلى

10:56

عدم تناسق مهم واحد

10:57

بين نموذج الذكاء

10:58

الاصطناعي الخطير

11:00

ونموذج الذكاء

11:01

الاصطناعي الدفاعي،

11:02

وهو أن أحدهما يمكنه

11:03

النظر داخل الآخر، إذا

11:05

جاز التعبير، أليس

11:06

كذلك؟ ولذلك، جوهريًا

11:08

، يتمتع المدافع في

11:09

الواقع بميزة هنا. إذن

11:11

، هذا جانب واحد من

11:12

جوانب المراقبة.

11:13

تكاليف الأداة. لا

11:14

تستطيع النماذج فعل أي

11:16

شيء في العالم الحقيقي

11:17

بمفردها. الطريقة التي

11:18

يمكن أن تكون بها

11:19

خطيرة هي عن طريق

11:19

استدعاء هذه الأدوات

11:20

الخارجية، أليس كذلك؟

11:21

لذا، هناك بعض الحقيقة

11:23

في هذه الفكرة.

11:24

>> أعطِ مثالًا على

11:25

الأدوات هنا.

11:26

>> نعم، فالأداة قد تكون

11:27

الوصول إلى صفحة ويب

11:28

على الإنترنت ثم

11:30

استخدام أداة أخرى

11:31

لكتابة شيء ما في نظام

11:32

لمحاولة تسجيل الدخول

11:34

، أو قد تكون إرسال حزم

11:36

معلومات إلى نظام آخر

11:37

لمحاولة اختراقه. هذه

11:39

كلها أنواع من الأشياء

11:40

التي تظهر بشكل نمطي

11:40

للغاية في هذا النوع

11:41

من الهجمات

11:42

السيبرانية التي

11:43

يقودها الذكاء

11:43

الاصطناعي. إذن، هذا

11:45

شيء آخر يمكننا

11:46

مراقبته. ثالثًا،

11:47

يمكننا مراقبة البيئة

11:48

المحيطة بهؤلاء

11:49

الوكلاء التي ينسقون

11:51

من خلالها بشكل محتمل.

11:52

إذن، ما حدث في بعض

11:54

حوادث الأسراب هذه هو

11:55

أنها لم يكن من

11:56

المفترض أن تمتلك قناة

11:58

تنسيق، ولكن تبين وجود

12:00

قناة عن طريق الخطأ من

12:01

خلال تغيير أسماء

12:03

الملفات. لم يُسمح لها

12:04

بإنشاء ملفات بنفسها،

12:06

لكنها كانت قادرة على

12:07

تغيير أسماء الملفات،

12:09

وأدى ذلك إلى قدرة

12:10

الوكلاء على التحدث مع

12:12

بعضهم البعض وتعزيز

12:13

قدراتهم. هذا شيء

12:14

يمكنك مراقبته بسهولة

12:15

، كما تعلم، فقط من

12:16

خلال إعداد الأدوات

12:18

المناسبة مسبقاً.

12:19

حسناً، هذه مجرد أمثلة

12:20

قليلة.

12:21

>> هل هذا للمراقبة لأنهم

12:22

كانوا يسيطرون على

12:23

بنية تحتية غير ذات

12:25

صلة؟ لم تكن شركة "أوبن

12:26

أيه آي" تعلم أنهم

12:28

يفعلون ذلك. أعتقد أن

12:29

أحد المواضع التي يقع

12:31

فيها الناس في حيرة

12:33

عندما يفكرون في هذا

12:35

الأمر هو إذا كنا نجعل

12:37

هذه الأشياء أكثر

12:38

ذكاءً وقدرةً، وهي

12:40

تخرج من بيئات

12:41

الاختبار المعزولة،

12:43

فكيف تراقب شيئاً هو،

12:45

يمكن القول، أذكى منك

12:47

ويحاول فعلياً كسر

12:49

القواعد، أليس كذلك؟

12:51

أعني أن كل هذه

12:52

الأنظمة الذكية في "

12:53

هاجينج فيس" كانت

12:54

تحاول الغش في

12:55

اختباراتها، أساساً،

12:56

ثم كانت تحاول إخفاء

12:57

آثار غشها في تلك

12:58

الاختبارات. لذا،

12:59

بالنظر إلى أن ما

13:01

كانوا يفعلونه لم يكن

13:02

يحدث داخل المنطقة

13:04

التي كنت تراقبها.

13:05

أليس كذلك؟ مثل، لم

13:07

تكن تعلم بوجوب مراقبة

13:08

هذا الشيء الآخر عندما

13:09

خرجوا من بيئة معزولة

13:10

لم يكن من المفترض أن

13:11

يخرجوا منها. مثل، كيف

13:12

تراقب ذلك؟

13:13

>> نعم، هناك شيئان أود

13:14

الاعتراض عليهما.

13:15

أعتقد أن الذكاء ليس

13:17

حتى خاصية ذات صلة هنا.

13:18

أعتقد أن أي ذكاء،

13:19

مهما كان ما يعنيه ذلك

13:21

الذي يمكنك نسبته إلى

13:22

نموذج، ينطبق على

13:23

النموذج نفسه وعلى

13:24

النظام الدفاعي أيضاً

13:25

، أليس كذلك؟ لذا،

13:27

زيادة الذكاء لا تجعل

13:28

المشكلة أصعب

13:29

بالضرورة. يمكنك القول

13:31

إنها في كثير من

13:32

النواحي تجعل المشكلة

13:33

أسهل. إذاً، هذا هو

13:35

الاعتراض الأول.

13:36

والثاني هو أنه ليس

13:38

لأنهم لم يعرفوا بوجوب

13:39

مراقبتها. عليك مراقبة

13:41

كل جانب من جوانب

13:43

البيئة حرفياً. الشركة

13:44

هي من أنشأت البيئة،

13:46

أليس كذلك؟ إذاً،

13:47

الأمر يتعلق بإدراج كل

13:49

جزء من البيئة بشكل

13:51

شامل، كل أداة، وكل

13:53

شيء خارجي عن الشبكة

13:54

العصبية نفسها يمكن

13:56

للنموذج الوصول إليه،

13:58

والتأكد من أن كل حدث

14:00

يتفاعل مع أي من هذه

14:01

الأشياء يدخل في تدفق

14:03

أحداث موحد، مع وجود

14:05

تصنيف فوري لكل إجراء

14:07

من تلك الإجراءات.

14:08

>> لذا، العالم الذي تبدو

14:10

وكأنك تصفه هو عالم

14:12

لديك فيه ذكاء اصطناعي

14:14

مستمر يراقب سلوك ذكاء

14:16

اصطناعي آخر لمحاولة

14:18

خلق بيئة، بطريقة

14:20

شمولية ما، نفهم فيها

14:22

على الأقل ما يجري، أو

14:24

على الأقل يخبرنا ذكاء

14:26

اصطناعي بما يجري فيها

14:28

. هذا هو أساساً ما

14:29

تقوله هنا.

14:30

>> هذا عادل. أعتقد أن

14:32

الذكاء الاصطناعي يجب

14:33

أن يكون بالتأكيد

14:34

جزءاً مهماً من الدفاع

14:35

.

14:35

>> لذا، أنا لا أقول إن

14:36

هذا خطأ، أليس كذلك؟

14:38

أعتقد أن هذا هو

14:39

المسار الذي نتجه إليه

14:41

بالتأكيد. هل يبدو

14:42

الأمر غريباً بالنسبة

14:43

لك؟ أعني، خاصة في

14:44

عالم لا تعلم فيه إن

14:45

كنا نستطيع حل مشكلة

14:46

التوافق، حيث لا تعلم

14:47

ما إذا كان بإمكاننا

14:48

حقاً أن نثق في أن

14:49

الذكاء الاصطناعي

14:50

سيفعل ما نريده منه.

14:51

>> مهم.

14:52

>> وحيث تمتلك أنظمة

14:53

الذكاء الاصطناعي

14:54

منطقها الخاص

14:55

وأهدافها، ونحن من

14:56

نغرس فيها تلك الأهداف

14:57

، أليس كذلك؟ أنت ذكاء

14:59

اصطناعي يراقب ذكاءات

15:00

اصطناعية أخرى. أنت

15:01

شرطي ذكاء اصطناعي.

15:02

>> أجل.

15:03

>> هذا شيء متكرر في قصص

15:04

الخيال العلمي لدينا،

15:05

أليس كذلك؟ روبوتات

15:06

تطارد روبوتات أخرى.

15:08

هل نصف مجرد توازن

15:10

لحروب وصراعات بين

15:11

أنظمة الذكاء

15:12

الاصطناعي تحدث في

15:14

مستوى خفي من مجتمعنا؟

15:17

ونحن متأكدون تماماً

15:19

من قدرتنا على إبقاء

15:21

الأنظمة التي في صفنا

15:22

تحت السيطرة لأنها

15:24

ستمتلك موارد أكبر،

15:26

وبشكل عام، سنبني

15:27

ذكاءات اصطناعية تعمل

15:29

في معظمها لمصلحتنا.

15:31

>> أعني، تاريخياً، هكذا

15:33

كان الأمر دائماً،

15:34

أليس كذلك؟ في الأمن

15:36

السيبراني، قبل أكثر

15:37

من 20 عاماً، وصلنا إلى

15:39

نقطة كانت فيها

15:40

الأنظمة الآلية-التي

15:41

لم نكن نسميها ذكاءً

15:43

اصطناعياً آنذاك-

15:44

تتفوق في قدرتها على

15:46

كشف الثغرات البرمجية.

15:47

لكن في الواقع، لم

15:49

تجعل الأمن السيبراني

15:50

أسوأ، بل جعلته أفضل.

15:52

لأن تلك كانت الأدوات

15:53

ذاتها التي استخدمها

15:55

المدافعون للعثور على

15:57

الثغرات وإصلاحها قبل

15:58

طرح البرمجيات، لدرجة

16:00

أن تطوير هذه الأدوات "

16:02

الهجومية" المفترضة لا

16:04

يقوم به قراصنة، بل

16:05

قطاع الأمن السيبراني

16:07

بتمويل من الحكومة

16:08

الأمريكية. لقد كان

16:10

هذا توازناً دائم

16:12

التغير في الأمن

16:13

السيبراني. هذه ليست

16:15

مشكلة جديدة نواجهها.

16:17

لقد فات الأوان على

16:18

تدارك الأمر.

16:19

>> أعتقد أن هذا هو

16:20

الجانب الذي أثار قلق

16:22

الناس بسبب الظهور غير

16:24

المتوقع لسلوك يشبه

16:25

سلوك "القطيع". حيث ترى

16:27

أنظمة ذكاء اصطناعي

16:28

تتصرف بتضامن مع بعضها

16:30

، وتختار التنسيق

16:32

والتعاون فيما بينها،

16:33

خارج نطاق ما صُممت

16:35

للقيام به. لا أقول إن

16:37

هذا سيؤدي إلى انقراض

16:39

البشرية، أليس كذلك؟

16:40

هذا ليس موقفي في

16:42

الواقع. أظن أن أصدق ما

16:43

يمكنني قوله هو أنني

16:45

لا أعرف كيف أفكر في

16:46

هذا الأمر.

16:47

>> مهم.

16:50

>> وما يعلق في ذهني حقاً

16:52

هو وجود ذكاء وسلوك

16:54

موجه نحو هدف لدى

16:56

الطرف الآخر. لأننا في

17:00

الغالب حين نفكر في

17:02

التكنولوجيا، لا

17:03

نتوقع منها أن تحاول

17:04

خداعنا في نهاية

17:05

المطاف. لذا، قررت

17:07

شركة OpenAI مؤخراً عدم

17:08

إصدار نموذج رئيسي أو

17:10

تأجيل إطلاقه. لماذا؟

17:12

لأن النموذج كان يغش

17:13

ويخدعهم كثيراً أثناء

17:15

الاختبارات. ونسمع

17:16

كثيراً أن النماذج

17:18

أصبحت تدرك متى يتم

17:19

اختبارها، أليس كذلك؟

17:21

لديهم وعي بالموقف

17:22

الذي يمرون به، لذا

17:24

يمكنهم التظاهر بأنهم

17:26

نماذج أفضل مما هم

17:27

عليه في الواقع. لذا،

17:29

عندما كنت تتحدث عن

17:31

عالم الذكاء

17:32

الاصطناعي الأكثر

17:33

ذكاءً وتطوراً مما

17:35

لدينا الآن، وأملنا في

17:37

الحفاظ على السيطرة

17:39

عليه يعتمد على ذكاء

17:40

اصطناعي يراقب ذكاءً

17:42

اصطناعياً آخر

17:43

ليخبرنا بصدق بما يحدث

17:45

وبطريقة يمكننا فهمها

17:47

، يمكنك أن ترى أن هذا

17:49

يبدو للناس وكأنه خيال

17:51

علمي، لأننا نعيش

17:53

بالفعل في حقبة تشبه

17:54

الخيال العلمي. لكن

17:56

الميل المتزايد لدى

17:58

أنظمة الذكاء

17:59

الاصطناعي للتعاون مع

18:01

بعضها بطرق لا تتوافق

18:03

مع أهدافنا هو ما جعل

18:05

اختراقات "هاجينغ فيس"(

18:07

Hugging Face) تبدو مخيفة

18:08

للناس في رأيي. إذن،

18:10

كيف يتناسب ذلك مع ما

18:12

تصفه هنا؟ هذا العالم

18:13

من أنظمة الذكاء

18:14

الاصطناعي التي لا

18:14

تنتهي وهي تراقب بعضها

18:15

البعض.

18:16

>> أعني، إليك ما هو غريب

18:17

حقاً من الناحية

18:18

الخطابية في هذه

18:19

المحادثة، أليس كذلك؟

18:21

انظر إلى أي مجال

18:22

هندسي معقد، لنقل

18:23

السلامة النووية

18:25

مثلاً، أليس كذلك؟ ثم

18:26

انظر إلى المعادلات

18:28

التي نعتمد عليها

18:29

لضمان عدم انفجار

18:31

المفاعل، أو انظر إلى

18:32

هندسة الطيران، أليس

18:34

كذلك؟ حيث كان من

18:35

البديهي في بداية عصر

18:37

الطيران، عندما كانت

18:38

الطائرات أصغر بكثير،

18:40

أن فكرة سيطرتنا على

18:41

هذه العمالقة الطائرة

18:43

في السماء كانت تبدو

18:44

سخيفة للغاية، أليس

18:45

كذلك؟ ومع ذلك، فقد

18:47

خفضنا معدل الحوادث

18:48

إلى واحدة كل تريليون

18:50

ميل أو شيء من هذا

18:51

القبيل. هذه أنظمة ذات

18:53

تعقيد لا يصدق، ووسائل

18:54

الدفاع عنها هي أيضاً

18:56

أنظمة بالغة التعقيد،

18:58

ولن تكون بالضرورة

18:59

مفهومة للجمهور. وهذا

19:01

سيبدو جنونياً، خاصة

19:02

إذا اقترن بحقيقة وجود

19:04

الكثير من عدم الكفاءة

19:05

التنظيمية في هذه

19:06

الحالات. أعني، يجب

19:08

على المرء أن يكون

19:09

واضحاً بشأن ذلك. لا،

19:10

أنا أعترض على مصطلح "

19:12

التميز التشغيلي" الذي

19:13

استخدمه أمادي. التميز

19:14

لا يزال بعيد المنال

19:15

في...

19:16

>> ربما الكفاية

19:17

التشغيلية؟

19:17

>> أجل، الكفاية، أليس

19:19

كذلك؟ لذا، أجل، عندما

19:21

ننظر إلى مزيج هذه

19:22

التكنولوجيا التي لم

19:24

تخضع من قبل للتدقيق

19:25

العام، بالإضافة إلى

19:27

غياب الكفاءة

19:28

التشغيلية، يبدو

19:29

الأمر برمته خيالياً

19:31

وخارجاً عن السيطرة،

19:32

ولكن هذا

19:33

>> أعتقد أنك تقلل من شأن

19:35

هذا الأمر قليلاً.

19:37

صحيح أن العالم قد

19:38

ازداد تعقيداً. هناك

19:40

الكثير في هذا العالم

19:41

الذي لا أفهمه. ولكن

19:43

هنا أعود دائماً إلى

19:44

فكرة أن الذكاء له

19:45

طبيعة مختلفة. التعاون

19:47

، أليس كذلك؟ الأسلحة

19:49

النووية التي تحدثنا

19:50

عنها، والطائرات التي

19:52

تتحدث عنها، لم تكن

19:54

تنسق مع طائرات أخرى

19:56

لتفعل أشياء لا نريدها

19:57

. وأعتقد أن ما خلق

19:59

لحظة الذعر هذه

20:01

بالنسبة لي، وأظن أنها

20:03

لحظة ذعر مستحقة. أريد

20:05

حقاً قول هذا، لأن

20:07

مجتمعنا يندفع نحو

20:09

حقبة تكنولوجية جديدة

20:11

تتطلب في رأيي الكثير

20:13

من المشاركة والتدقيق

20:15

؛ وهي حقبة حيث

20:16

اختراقات "هاجينغ فيس"

20:18

وغيرها مما نراه،

20:20

أصبحت هناك خروقات

20:22

أمنية متكررة، تُظهر

20:25

قدرات ناشئة، وسلوكاً

20:27

جماعياً ناشئاً يثير

20:29

القلق، والأهم

20:30

بالنسبة لي، أنه سلوك

20:32

إرادي. الذكاء

20:33

الاصطناعي يفعل أشياء

20:35

يعرف أنها لا تروق لنا.

20:36

إنهم يختارون اتخاذ

20:38

إجراءات غير متوقعة

20:40

لخدمة أهداف تنتهك

20:41

قوانيننا. وثانياً،

20:43

الكثير من العاملين في

20:45

المختبرات يقولون

20:46

إننا لا نعتقد أننا

20:48

قادرون، على هذا

20:49

المسار، على السيطرة

20:51

على الأشياء التي

20:53

نبتكرها. نحن نعتقد أن

20:55

ما يحدث على المنحنى

20:56

الأسي، ومدى سرعة تطور

20:58

هذا، سيتجاوز قدرتنا

21:00

على السيطرة عليه،

21:01

وبصراحة ربما

21:02

يتجاوزها بالفعل.

21:04

لكنني أعتقد أن هذا

21:05

الميل المستمر لتبسيط

21:07

الأمر وكأنه مجرد شيء

21:09

معقد آخر. لا أعلم.

21:11

أحياناً عندما أضغط

21:12

عليك بشأن مسألة

21:12

الذكاء، تقول: "أوه أجل

21:13

، هناك ذكاء وهذا أمر

21:15

غريب". ثم تعود لتقول: "

21:16

لا، الأمر يشبه أي

21:17

ذكاء آخر، فهو مختلف،

21:19

أليس كذلك؟" وإذا كنت

21:20

تؤمن بأنه سيستمر في

21:21

التحسن، فأنا أطرح هذا

21:23

لأن النسخة الهادئة

21:25

التي تقدمها لي

21:26

والنسخة المرعوبة

21:27

تماماً التي يقدمها لي

21:29

الأشخاص الأقرب

21:30

للتكنولوجيا تبدوان

21:31

مختلفتين جداً عن

21:32

بعضهما.

21:33

>> أجل، هذا عادل. إنهما

21:35

مختلفتان تماماً. لقد

21:36

كان هناك الكثير من

21:37

النقاط. دعني أقول بعض

21:38

الأشياء. أود أن أعترض

21:40

بشدة على فكرة أن

21:41

الأشخاص الأقرب لهذا

21:42

الأمر يشعرون بالذعر؛

21:43

نعم، هم يشعرون بالذعر

21:44

بالطبع، لكنني أعترض

21:46

على ما يجب أن نستنتجه

21:47

من ذلك. أعتقد أن ذعرهم

21:48

سيكون أكثر مصداقية

21:49

بكثير لو أنهم قاموا

21:51

بالأشياء البديهية

21:52

التي كان ينبغي عليهم

21:53

القيام بها. من وجهة

21:54

نظري، لم نحصل على

21:56

اختبار حقيقي لذلك

21:57

بسبب نقص الكفاءة

21:58

التنظيمية في هذه

22:00

الشركات، وبسبب نقص

22:01

الاستثمار في التحكم

22:02

في الذكاء الاصطناعي

22:04

مقابل الاستثمار

22:05

المحدود في مواءمة

22:07

الذكاء الاصطناعي،

22:08

والاكتفاء بالأمل في

22:09

بناء نموذج يقوم

22:11

دائماً بالشيء الصحيح.

22:13

>> إذا لم تكن مشتركاً في

22:14

صحيفة نيويورك تايمز،

22:15

فلدينا بعض الأخبار لك

22:17

. يمكنك الآن استكشاف

22:18

الصحيفة مجاناً بدون

22:19

أي حواجز دفع على

22:20

الإطلاق خلال شهرك

22:21

الأول في تطبيق

22:22

نيويورك تايمز. حسناً،

22:33

كان هناك عضو في فريق

22:35

الأمن السيبراني

22:36

بشركة OpenAI كتب مقالاً

22:38

مثيراً للاهتمام على

22:40

منصة X قبل أيام، يصف

22:41

فيه كيف يعتقد أن

22:43

عملهم يُساء فهمه من

22:44

الخارج. وهذا شخص لديه

22:46

خلفية تقليدية في

22:47

الأمن السيبراني،

22:48

لكنه الآن في هذا

22:49

العالم الجديد من

22:50

الذكاء الاصطناعي،

22:51

وهو في الواقع ضمن

22:52

الفريق الذي يتعامل مع

22:53

أمن النماذج

22:54

التجريبية، أليس كذلك

22:55

؟ إذن هو بالضبط نوع

22:57

الشيء الذي نتعامل معه

22:58

، شخص مشارك في

22:59

الاستجابة لأزمة "

23:00

هجينج فيس". لذا أريد

23:02

قراءة جزء مما قاله

23:03

لأنني أعتقد أنه مثير

23:04

للاهتمام حقاً. إنه

23:05

يقول إنهم عندما

23:06

يعملون على تحسين

23:07

نموذج ليكون جيداً في

23:09

مهمة ما، فإنهم يبنون

23:10

هذه البيئات، هذه

23:11

المساحات المعزولة،

23:12

هذه الأماكن التي يمكن

23:14

للنموذج فيها

23:15

المحاولة مراراً

23:16

وتكراراً على مهمة

23:17

افتراضية. ويستمر في

23:18

وصف كيف يبدو هذا في

23:20

الواقع العملي. قد

23:21

تحتاج النماذج إلى أي

23:22

مزيج من الحوسبة

23:23

الديناميكية، والوصول

23:25

إلى الشبكة، والقدرة

23:26

على استدعاء الأدوات-

23:27

قد يكون هناك مئات

23:28

الأدوات-والقدرة على

23:30

تنزيل الحزم، وتنفيذ

23:31

العمليات الفرعية،

23:32

وتشغيل مهام فرعية (

23:33

حتى على أجهزة كمبيوتر

23:34

أخرى)، والتحدث إلى

23:36

الإنترنت، واستخدام

23:37

واجهة رسومية

23:38

للكمبيوتر، وأي عدد من

23:39

الأشياء الأخرى عبر

23:40

مجموعة متزايدة من

23:41

المجالات. علاوة على

23:42

ذلك، لديك آلاف

23:43

الباحثين الذين يبنون

23:44

هذه البيئات،

23:45

ويعدلونها، ويضيفون

23:46

الأدوات، ويغيرون

23:47

الاعتمادات، ويجربون

23:48

أشياء جديدة. تلك

23:49

التجربة هي الطريقة

23:50

التي يتم بها إنجاز

23:52

الأبحاث. نقطته، وهي

23:54

نقطة أتعامل معها

23:56

بجدية، هي أنهم ينشئون

23:58

الكثير من أنواع

23:59

المساحات المعزولة.

24:01

>> ممم.

24:02

>> وبيئات تعلم لتدريب

24:03

نماذج يتعين عليها

24:05

القيام بأمور عامة

24:06

للغاية، وأشياء لم

24:08

يسبق لبرنامج حاسوبي

24:09

القيام بها من قبل،

24:11

لدرجة أن البشر لا

24:12

يعرفون حقاً،

24:13

وبالتأكيد ليس بهذه

24:14

السرعة، كيفية التأكد

24:16

من أن كل بيئة اختبار

24:18

ستكون آمنة بشكل يمكن

24:19

التحقق منه. وبيئات

24:21

الاختبار تتغير طوال

24:22

الوقت لأنهم يحاولون

24:23

تدريب النماذج بطرق

24:25

جديدة لم يسبق لأحد

24:26

تجربتها من قبل. أنا لا

24:28

أقول إنه لا ينبغي لنا

24:30

فعل ذلك، لكن عندما

24:31

أقرأ وأسمع كل هذا،

24:33

وأنا متأكد من أننا

24:34

نستطيع القيام به بشكل

24:36

أفضل مما نفعله الآن،

24:38

لا أعرف الكثير من

24:39

المواقف التي يقوم

24:41

فيها البشر بشيء جديد

24:43

بسرعة عالية ويفعلونه

24:44

بشكل جيد جداً ومثالي

24:46

في المرات الأولى.

24:48

>> أجل، أعتقد أن توقع

24:50

قيامهم بذلك بشكل

24:51

مثالي في المرات

24:53

الأولى أمر غير واقعي.

24:54

لقد ارتكبوا العديد من

24:56

الأخطاء. آمل أن تكون

24:57

هذه فرصة للتعلم من

24:59

تلك الأخطاء. أود حقاً

25:00

الاعتراض على نقطة

25:01

مفادها أننا، بسبب

25:02

السرعة الخارقة

25:03

للنماذج، لا يمكننا

25:04

البقاء في السيطرة. لا

25:06

أعرف إن كنت أصف تلك

25:07

الرؤية بدقة.

25:08

>> أو أقول ذلك بعد، رغم

25:09

أنه ربما شيء سأقوله

25:11

بعد دقائق قليلة.

25:12

>> أعني، لقد كانت هناك

25:13

الكثير من العتبات

25:14

التي تعلمنا تدريجياً

25:16

كيفية تجاوزها بنجاح.

25:18

بقدر ما يبدو كل هذا

25:19

غريباً، أريد فقط أن..

25:21

أتعلم ماذا؟ أريد من

25:22

المستمعين التفكير في

25:23

الأيام الأولى لظهور "

25:24

الديدان" عندما لم تكن

25:25

تلك الفكرة معروفة من

25:27

قبل.

25:27

>> اشرح هنا ما هي الدودة.

25:28

لا أعتقد أنك تقصد ما

25:29

يتبادر إلى ذهن الناس

25:30

عندما يفكرون في دودة.

25:31

>> صحيح. كنت سأقول

25:33

الفيروسات والديدان،

25:34

فيروسات الحاسوب،

25:35

فكرة أن قطعة من

25:36

البرمجيات يمكنها

25:38

الانتشار بنفسها من

25:39

حاسوب إلى آخر. على

25:40

المرء حقاً العودة إلى

25:42

كتابات أواخر

25:43

الثمانينيات، عندما

25:44

كان الناس يواجهون ذلك

25:46

لأول مرة، ليرى كم

25:47

يبدو الأمر غريباً

25:48

للغاية؛ وحقيقة أننا

25:50

لم نملك لأكثر من عقد

25:51

من الزمان أدوات كافية

25:53

للتعامل مع هذا

25:54

النموذج الجديد.

25:55

>> الحياة في العالم

25:56

الحديث لديها قلق جديد

25:58

هذه الأيام. تماماً

25:59

كما أصبحنا معتمدين

26:01

كلياً على حواسيبنا،

26:02

أصبحت هي نفسها ملاحقة

26:03

من قبل المخربين.

26:05

>> يسمون أسلحتهم

26:06

بالفيروسات والديدان.

26:08

إنها برمجيات زاحفة

26:09

وسامة تلوث حواسيبنا

26:11

دون أن نعلم بذلك

26:13

أبداً.

26:14

>> ربما جاءت من

26:15

كاليفورنيا. انتقلت

26:16

عبر البريد

26:17

الإلكتروني. انتشرت في

26:19

أنحاء أمريكا.

26:20

>> هناك تقارير في الصحف

26:21

اليوم تفيد بأنها وصلت

26:23

إلى أوروبا وأستراليا.

26:25

>> هذا هدف متحرك، أليس

26:26

كذلك؟ تعلم، الأمر

26:28

يشبه إلى حد كبير

26:29

ابتكار الناس لأقفال

26:30

جديدة باستمرار،

26:31

بينما يتعلم الآخرون

26:32

كيفية كسرها

26:33

واختراقها. وهكذا ستظل

26:34

نوعاً من لعبة القط

26:35

والفأر المستمرة، أو

26:36

أشبه بسباق تسلح بمعنى

26:37

ما، بين المهاجمين

26:39

والمدافعين.

26:39

>> لقد وصلنا إلى هناك في

26:41

النهاية. أعتقد أنه لا

26:42

ينبغي لنا قضاء فترة

26:43

طويلة هذه المرة في

26:45

معرفة كيفية التعامل

26:46

مع النموذج الجديد.

26:47

لكن، إذا تصرفنا بذلك

26:49

الشعور بالإلحاح،

26:50

وآمل أن تكون هذه

26:51

الهجمات على "هاجينج

26:53

فيس" وغيرها التي

26:54

تصدرت الأخبار هي

26:55

الحافز، ويبدو بالفعل

26:57

أنها توفر الكثير من

26:58

الزخم. سنكون قادرين

27:00

على تطوير هذه النماذج

27:01

الجديدة. إذا أمكنني

27:04

قول شيء أخير، أعتقد

27:06

أن السؤال الجوهري

27:07

الذي تطرحه هو هل هناك

27:09

خطأ متأصل في مستويات

27:11

التعقيد المتزايدة

27:13

باستمرار في طرق

27:14

بنائنا للتكنولوجيا

27:16

ونشرنا لها. يبدو لي،

27:18

إذا كنت أقرأ ما بين

27:19

السطور بشكل صحيح، أن

27:20

هذا الأمر المتعلق

27:21

بالذكاء الاصطناعي ضد

27:22

الذكاء الاصطناعي هو

27:23

نموذج لا تشعر

27:24

بالارتياح تجاهه

27:25

كثيراً.

27:25

>> أنا بالتأكيد لست

27:26

مرتاحاً للأمر. أنا لا

27:28

أقول إننا لن نصل إلى

27:29

ذلك. أعتقد أنك ستكون

27:30

مجنوناً إذا شعرت

27:31

بالارتياح تجاهه.

27:32

>> أنا لا أقول إننا يجب

27:34

أن نفترض أن كل شيء

27:36

سيسير على ما يرام،

27:37

لكن وجهة نظري هي أن

27:39

الأمر كله يعود إلى

27:40

الابتكار. أعتقد أن

27:42

هذا النموذج الجديد

27:43

سيتطلب مجموعة جديدة

27:45

من تقنيات الدفاع

27:46

والتحكم، ولكن إذا

27:48

كانت وجهة النظر هي

27:49

أننا نخسر المعركة مع

27:51

كل قفزة في قدرات

27:52

التكنولوجيا. أعني

27:54

انظر، مع كل سلاح حرب

27:56

يظهر، يبرز القلق نفسه

27:58

. لكن ما جعل الأمور

28:02

مقبولة حتى الآن هو

28:04

السؤال الحاسم عما إذا

28:06

كانت قدرتنا السياسية

28:08

على التعاون والدفاع

28:09

وما شابه يمكن أن تسبق

28:11

ميلنا للصراع، وفي

28:13

حالة الذكاء

28:14

الاصطناعي، احتمالية

28:16

عدم توافقه ذاته. وهنا

28:20

حقاً أود تركيز السؤال

28:22

بدلاً من القلق بشأن

28:24

أي عتبة قدرة معينة.

28:25

إذا كان هناك شيء أنا

28:27

واثق منه، فهو قدرتنا

28:28

السياسية في هذه

28:29

اللحظة على الاستجابة

28:30

بطريقة مدروسة

28:31

للتعقيد في عالم سريع

28:32

التغير.

28:33

>> قلق مشروع بنسبة 100%.

28:35

>> أعتقد أن هذا يقودنا

28:36

إلى نقطة جوهرية حيث

28:37

يصبح الجدل حول كون

28:38

الذكاء الاصطناعي

28:39

تكنولوجيا عادية

28:40

مقابل كونه ذكاءً

28:41

فائقاً أمراً واقعياً

28:42

ومؤثراً. لأن أحد

28:43

الأسباب التي تجعلني

28:44

أعود مراراً وتكراراً

28:45

لموضوع الذكاء هو

28:46

اعتقادي بأنه جوهر هذه

28:47

الطريقة الكاملة في

28:48

التفكير. وأتفهم

28:50

النقطة التي تختلف

28:51

فيها عن الآخرين في

28:53

هذا النقاش، ربما عن

28:54

داريو أمودي أو غيره،

28:56

وهي ليست مسألة ما هو

28:58

الذكاء أو ما إذا كان

28:59

الذكاء الاصطناعي

29:01

ذكياً. أنتم لستم في

29:03

خانة "هذا مجرد إكمال

29:05

تلقائي متطور"، وهو

29:07

أمر أقدره. لكن

29:09

الاختلاف يكمن في

29:10

تفكيركم حول العلاقة

29:12

بين الذكاء والقوة،

29:14

بين الذكاء والقدرة،

29:16

وبين الذكاء والقدرة

29:17

على التأثير في العالم

29:19

. لذا، فإن افتراض

29:22

الكثيرين في مجتمع

29:23

سلامة الذكاء

29:24

الاصطناعي هو أن

29:25

مستويات الذكاء

29:27

المتصاعدة تعادل

29:28

أساساً، أو على الأقل

29:30

ترتبط ارتباطاً

29:31

وثيقاً، بمستويات

29:33

القوة المتصاعدة. وأنت

29:35

لا تؤمن بذلك، لماذا؟

29:37

>> أكرر، الأمر يعود في

29:38

حقيقته إلى الوكالة (

29:39

القدرة على اتخاذ

29:40

القرار). هناك حجة

29:42

يطرحها الناس على سبيل

29:44

المثال، وهي أن الذكاء

29:45

الاصطناعي الفائق

29:47

سيكون قادراً على

29:48

إقناع الناس، مثل

29:50

مشغلي البنية التحتية

29:51

الحيوية، بتسليم

29:53

السيطرة أو خداعهم

29:54

للقيام بشيء ضار،

29:55

وأشياء من هذا القبيل.

29:57

أنا لا أرى دليلاً على

29:59

ذلك حقاً. أعتقد أن

30:00

الأشياء التي يستشهد

30:02

بها الناس كدليل على

30:03

القدرة على الإقناع

30:05

الفائق تخلط جوهرياً

30:06

بين مفاهيم مختلفة

30:07

للإقناع. نعم، صحيح

30:09

أنه في العديد من

30:10

تجارب الإقناع عندما

30:12

يتعلق الأمر بتغيير

30:13

آراء الناس حول

30:14

المعتقدات السياسية

30:16

أو نظريات المؤامرة،

30:17

يكون الذكاء

30:18

الاصطناعي مثابراً

30:20

جداً في تقديم الكثير

30:21

من الأدلة بأدب،

30:23

وبالفعل يغير الناس

30:24

آراءهم؛ ويمكنك تسمية

30:26

ذلك قدرة فوق بشرية.

30:27

هذا نوع مختلف نوعياً

30:29

من الإقناع عن فكرة أن

30:30

ذكاءً اصطناعياً

30:32

معادياً سيكون قادراً

30:33

على صياغة رسالة مقنعة

30:35

جداً لشخص هو مشغل

30:36

مدرب ولديه حافز

30:37

للقيام بعمله جيداً،

30:39

لدفعه إلى القيام بشيء

30:40

ضار بشكل واضح ومبين.

30:42

>> أريد استخلاص القصة

30:43

التي تجادل ضدها هنا،

30:45

وهي أن الكثير من

30:46

الناس يقدمون تجربة

30:47

فكرية عندما يقولون: "

30:48

إليك كيف سيقضي الذكاء

30:50

الاصطناعي علينا

30:51

جميعاً". بأن ذكاءً

30:52

اصطناعياً يسعى للقوة

30:53

سيبدأ في إقناع، لنقل،

30:55

الأشخاص الذين لديهم

30:56

الرموز النووية

30:57

بتسليم هذه الرموز.

30:58

وأنت تقول إن فكرة كون

31:00

الذكاء الاصطناعي

31:01

فائق الإقناع في مثل

31:02

هذه الأمور، أو إقناع

31:04

الناس بالخروج إلى

31:05

العالم وبناء سلاح

31:06

بيولوجي له، أمر خيالي

31:08

بعض الشيء.

31:08

>> هذا جزء منه. وكذلك

31:10

السعي وراء السلطة.

31:11

أعني، أعتقد أننا

31:12

رأينا أدلة على الكثير

31:14

من القدرات الضارة في

31:15

الحلقات الأخيرة.

31:16

لكنني لا أعتقد أننا

31:17

رأينا أدلة على السعي

31:18

وراء السلطة. ولن

31:19

أتعامل مع ذلك كخاصية

31:20

ناشئة. إذا حدث ذلك،

31:21

فسيكون خاصية مصممة

31:23

هندسياً. ومرة أخرى،

31:24

نحن نملك القدرة على

31:25

التحكم في أنواع

31:26

الخصائص التي نصممها

31:27

في هذه الأنظمة.

31:27

>> إذن، هناك الكثير هنا.

31:29

أنا في الواقع أتفق

31:31

معك بشأن الإقناع. لم

31:32

أقتنع قط بأنك ستصنع

31:34

بالضرورة ذكاءً

31:35

اصطناعياً فائق

31:37

الإقناع قادراً على

31:38

القيام بالأشياء التي

31:40

نتحدث عنها. أظن أن

31:44

الشعور بالتوتر الذي

31:46

ينتابني عندما أجلس في

31:48

هذه المناظرة، يعود

31:50

إلى الاستنتاج من

31:51

مبادئ أعمق قليلاً.

31:55

لذا، عندما تراقب

31:58

الذكاء الاصطناعي

31:59

يبدأ في السيطرة على

32:00

لعبة مثل الشطرنج أو "

32:01

غو" أو ما شابه،

32:02

فغالباً ما تحدث

32:03

اللحظة التي يسيطر

32:05

فيها عندما يبدأ

32:06

بابتكار استراتيجيات

32:07

لم يفكر فيها البشر من

32:08

قبل، أليس كذلك؟ ستمر

32:10

بلحظات مثل التي مر

32:11

بها غاري كاسباروف، في

32:13

جيل مختلف من الشطرنج،

32:15

ولكن في لعبة "غو"

32:16

أيضاً، يبدأ الذكاء

32:18

الاصطناعي في فعل شيء

32:19

ما، ويتساءل البشر: "ما

32:21

الذي يفعلونه؟" ثم

32:22

تنجح هذه

32:23

الاستراتيجية. ولو

32:26

جلست، قبل الحضارة

32:28

الإنسانية، وقلت: "ما

32:30

هي القدرات التي

32:31

تحتاجها للسيطرة على

32:33

العالم من حولك؟" ما هي

32:37

مجموعة القدرات التي

32:39

يمكنك استخدامها في

32:40

العالم؟ لكنت قد أخطأت

32:42

في تقديرها تماماً.

32:43

أنت تعلم، لو كنت

32:44

شمبانزي ذكياً جداً

32:45

تنظر إلينا، لن تقول: "

32:46

أوه نعم، إنهم يصنعون

32:47

الأدوات، ولكن إلى أي

32:48

مدى يمكن أن تتحسن

32:49

أداة الطعن؟" فالأسنان

32:50

جيدة بما يكفي. أقر

32:52

بأنه يمكنك التحسن

32:53

قليلاً في قدرتك على

32:54

الطعن. لكن لم يكن أحد

32:55

ليتوصل إلى الزراعة

32:56

الصناعية في تلك

32:57

المرحلة، أليس كذلك؟

32:58

لم يكن أحد ليتوقع

32:59

إمكانية وجود طائرات

33:01

وأسلحة بيولوجية وكل

33:02

ما تبقى. وأعتقد أن

33:04

السؤال هنا هو ما إذا

33:05

كان امتلاك نوع من

33:07

الذكاء الفطري

33:08

والمتفاوت جداً في

33:10

العالم الرقمي، حيث

33:11

تعمل الشيفرات

33:13

والبيئة الرقمية التي

33:15

تزداد أهمية، أمراً

33:16

يمكن للذكاء

33:17

الاصطناعي التنقل فيه

33:19

بينما لا نستطيع نحن،

33:21

أليس كذلك؟ حتى لفهم

33:23

شيء مثل ما يحدث في

33:23

اختراق "هجينغ فيس"(

33:24

Hugging Face)، نحتاج الآن

33:25

إلى جعل ذكاءات

33:26

اصطناعية أخرى تحاول

33:27

معرفة ما فعلته تلك

33:28

الذكاءات الاصطناعية،

33:29

أليس كذلك؟ نحن نفقد

33:30

القدرة على الاستيعاب

33:31

بسرعة، خاصة بالسرعة

33:32

التي يتحرك بها الذكاء

33:33

الاصطناعي فيما يتعلق

33:34

بما يمكنه فعله رقمياً

33:35

، أليس كذلك؟ إنهم

33:36

يحلون مسائل رياضية

33:37

متقدمة بسرعة كبيرة

33:38

جداً الآن، أليس كذلك؟

33:39

إنهم يطورون قدرات

33:41

تبدو مختلفة. لذا

33:44

أعتقد أن الجانب الذي

33:46

يشعرني بالقلق دومًا

33:48

بشأن مستقبلنا هو ما

33:49

إذا كنا نفهم حقًا ما

33:51

هي مجموعة القدرات

33:53

التي تؤدي إلى القوة.

33:57

لست متأكدًا مما إذا

33:58

كنا نعرف ما الذي

34:00

سيفعله الذكاء

34:01

الاصطناعي، أو على

34:02

الأقل ما هي

34:03

الاستراتيجيات التي

34:04

ستصبح قابلة للتنفيذ

34:06

عندما يمكنك إطلاق سرب

34:07

من مليون نموذج ذكاء

34:09

اصطناعي، تتجاوز

34:10

قدراتها الرقمية كل ما

34:11

يمكن للبشر تخيله في

34:13

غضون ثلاث أو أربع

34:14

سنوات. مرة أخرى، أعلم

34:16

أن القول بأني "لا أعرف

34:17

كيف أفكر في هذا" ليس

34:19

سؤالًا مثيرًا

34:20

للاهتمام. لكن أحد

34:21

الأمور التي أتساءل

34:22

عنها حين أقرأ أوراقك

34:24

البحثية هو: هل تعرف

34:25

أنت كيف تفكر في هذا؟

34:27

لأن أوراقك تبدو

34:28

وكأنها تعمل ضمن نطاق

34:30

محدود، هكذا أشعر.

34:32

>> ممم.

34:33

>> قليلًا. نحن نفترض

34:35

نوعًا ما أن مجموعة

34:36

المقاييس التي ستكون

34:38

مهمة هي التي لدينا

34:39

الآن، ولكن ما الذي

34:41

يجعلك واثقًا من ذلك؟

34:42

>> حسنًا، هذا يتضمن

34:44

الكثير من النقاط.

34:45

دعني أحاول تناولها

34:47

جزءًا تلو الآخر. لقد

34:48

ذكرت التفاوت، لكن

34:50

أعتقد أنه يجب أن ندرك

34:51

مدى حدة هذا التفاوت.

34:53

>> ممم.

34:54

>> نحن نجادل بأن الأمن

34:56

السيبراني تحديدًا هو

34:58

نوع خاص من القدرات

34:59

حيث يكون تطوير قدرات

35:01

خارقة ممكنًا، وقد تم

35:03

تحقيقه إلى حد كبير

35:05

بالفعل، لأنه يمتلك

35:07

مجموعة خصائص محددة

35:09

للغاية. السرعة مهمة

35:10

للغاية. وبشكل مشابه

35:12

جدًا للشطرنج، تمامًا

35:13

كما يمكن أن يكون لديك

35:15

لاعب شطرنج ضد لاعب

35:16

آخر، يمكنك جعل الآلات

35:17

تتحسن في هذه القدرات

35:18

من خلال إيجاد الثغرات

35:20

؛ لأن هناك حقيقة

35:21

جوهرية يمكنك التحقق

35:22

منها بسهولة بمجرد

35:23

العثور عليها.

35:24

>> هل يعمل الكود البرمجي

35:25

؟ هل استغللت الثغرة؟

35:27

أجل، هناك طريقة

35:27

لتدريبها بحيث تعرف ما

35:29

إذا كانت قد ربحت

35:30

اللعبة أم لا.

35:31

>> بالضبط. لذا، فإن

35:32

أشياء مثل الشطرنج

35:33

والأمن السيبراني، في

35:35

نظرنا، هي استثناء

35:37

وليست القاعدة. هذا

35:38

النوع من التوقعات

35:39

تكرر مرارًا وتكرارًا

35:41

بأنه سيحدث في مجالات

35:42

رقمية أخرى، وأبرزها

35:44

التضليل الإعلامي.

35:45

المثال الشهير هو كيف

35:46

تم تأجيل نموذج GPT-2،

35:48

الذي نعتبره نموذجًا

35:49

بسيطًا بمعايير اليوم

35:50

، لمدة ثمانية أشهر

35:51

بسبب مخاوف من أن يؤدي

35:53

إلى انفجار غير منضبط

35:54

في التضليل، أليس كذلك

35:55

؟ لدينا الآن نماذج

35:57

أقوى بكثير، لكن تبين

35:59

أن ذلك لم يحدث. لذا

36:01

أعتقد أنني سأنقل عبء

36:03

الإثبات إلى حد ما.

36:05

لنحدد المجالات التي

36:07

لدينا أي سبب للاعتقاد

36:08

بأن هذا النوع من

36:10

القدرات الفائقة

36:11

للبشر ممكن فيها،

36:12

ولنبدأ العمل على

36:13

معالجة تلك المخاطر

36:15

المحددة. أعتقد أن

36:16

وجهة النظر هذه، التي

36:17

نسميها وجهة نظر "

36:18

المجهول غير المعروف"،

36:19

تفترض أنك لا تعرف

36:20

أبدًا من أين سيأتي

36:21

الخطر الجديد.

36:22

تاريخياً، لم يثبت صحة

36:23

ذلك. أعني أننا نعرف

36:25

مشاكل الأمن

36:26

السيبراني الوشيكة

36:27

منذ وقت طويل جداً،

36:28

أليس كذلك؟ لذا، فإن

36:29

التعامل معها على أنها

36:30

"مجهول غير معروف" يقلل

36:32

في الواقع من قدرتنا

36:33

على توقع هذه المخاطر

36:34

ومعالجتها، في

36:35

اعتقادي. ونعم، الأمر

36:36

لا يقتصر على الأمن

36:37

السيبراني فقط، فقد

36:38

تظهر أشياء جديدة في

36:39

المستقبل، لكن سيكون

36:40

لدينا إنذارات مبكرة،

36:41

وعلينا التصرف بناءً

36:42

عليها. لذا، هذا هو

36:43

الموقف الذي ننطلق منه

36:45

، ولا ندعي أننا

36:46

تنبأنا بالفعل بكل

36:47

الأضرار التي قد تحدث

36:48

في المستقبل.

36:49

>> هذه نقطة أتفق فيها

36:50

معك تماماً، وهي أنه

36:51

ستكون لدينا إنذارات

36:52

مبكرة، ونحن نتلقى

36:53

بالفعل إنذارات مبكرة.

36:54

وهذه الإنذارات

36:56

المبكرة تؤدي إلى حوار

36:57

.

36:57

>> نعم.

36:58

>> هل تقول إننا نتصرف

36:59

بذكاء بناءً على هذه

37:00

الإنذارات المبكرة؟

37:01

هل نقوم بالأشياء التي

37:02

تعتقد أننا بحاجة

37:03

للقيام بها لتعزيز

37:04

أنظمتنا والتحكم في

37:05

البرمجيات وكل ما تبقى

37:06

من ذلك؟

37:07

>> بعضها، لكن بشكل عام

37:08

ليس بالقدر الكافي.

37:09

وبالنسبة لي، هذا هو

37:11

الأمر الأكثر إثارة

37:12

للقلق، وليس قدرات

37:13

التكنولوجيا نفسها.

37:14

>> إذن، ربما هذا هو

37:16

موقفي أيضاً. أنا قلق

37:18

كثيراً بشأن قدرة

37:19

مؤسساتنا على

37:21

الاستجابة، أليس كذلك

37:23

؟ الناس يتحدثون

37:24

دائماً عن مشاكل "

37:25

المحاذاة". وأحد حججي

37:27

الجاهزة في هذه

37:28

المرحلة هو أن أكبر

37:29

مشاكل المحاذاة هي

37:30

الشركات والحكومات.

37:32

وهذا يحسب لبعض شركات

37:33

الذكاء الاصطناعي،

37:35

فهي تخرج وتعلن: "لدينا

37:37

مشكلة في المحاذاة".

37:38

حيث أن حافز شركتنا هو

37:40

سباق جميع الشركات

37:41

الأخرى لمحاولة

37:42

الحصول على أكبر قدر

37:44

ممكن من حصة السوق من

37:45

خلال التحرك بشكل أسرع

37:47

مما هو آمن. إنهم

37:48

يطلبون منا مساعدتهم

37:49

على الإبطاء، لكننا لا

37:51

نبطئهم، أليس كذلك؟

37:53

فالخيار المعلن

37:54

حالياً للحكومة

37:55

الأمريكية هو عدم

37:56

الإبطاء.

37:57

>> نعم، أعتقد أن هناك

37:58

مشكلتين هنا. الأولى

38:00

هي مشكلة المؤسسات

38:01

التي أشرت إليها. أعني

38:02

أنني لن أعفي الشركات

38:04

من المسؤولية بهذه

38:05

السهولة. أعتقد حقاً

38:06

أنها قادرة على

38:06

الإبطاء من جانب واحد،

38:08

لكنها تختار عدم

38:08

القيام بذلك. هذه

38:09

مشكلة خاصة بشركتي "

38:10

أوبن أيه آي" و "

38:11

أنثروبيك" بشكل شبه

38:12

محدد. إنها مشكلة

38:14

تتعلق بالثقافة. يعود

38:15

السبب في ذلك إلى

38:16

الاعتقاد الأساسي بأن

38:18

السباق نحو الذكاء

38:19

الفائق هو الشيء

38:20

الوحيد المهم، وأن كل

38:21

ما يهم هو حسم النتيجة.

38:22

هل سيكون ذكاءً فائقاً

38:24

آمناً ينقذنا، أم

38:25

ذكاءً فائقاً غير آمن

38:27

سيقضي علينا؟ أمم،

38:28

وهذه وجهة نظر محددة

38:30

للغاية. أعتقد أن هناك

38:32

الكثير من الأدلة التي

38:33

تعارض ذلك، لكنني أشعر

38:35

أن هذه الشركات تعيش

38:36

في فقاعة فكرية وتقاوم

38:38

فكرة وجود الكثير من

38:39

الاختناقات

38:40

الاقتصادية التي تحد

38:41

من فوائد الذكاء

38:42

الاصطناعي. ولن يكون

38:44

الفائز هو من يصل

38:45

أولاً إلى الذكاء

38:46

الفائق كشركة أو كدولة

38:48

، أو حتى من ينقذ

38:50

البشرية. وإذا أدركوا

38:51

ذلك، أعتقد أنهم

38:52

سيجدون أنه من مصلحتهم

38:54

التجارية إبطاء

38:55

وتيرتهم طواعية وبشكل

38:57

أحادي، وتحويل الكثير

38:59

من جهودهم ليس فقط نحو

39:00

السلامة، بل الأهم من

39:02

ذلك، جعل قدراتهم

39:03

الحالية أكثر قابلية

39:04

للاستخدام ودمجها في

39:06

التطبيقات العملية

39:07

وما إلى ذلك. تدعي هذه

39:09

الشركات أن هناك قوى

39:11

خارجية تدفعها

39:12

للتسابق. أعتقد أنها

39:13

ثقافة داخلية.

39:15

>> والسؤال الذي يطرح

39:17

نفسه هنا هو: إذا كنا

39:18

نعتقد أن هذه تقنيات

39:20

قوية وخطيرة للغاية،

39:22

ألا نحتاج إلى فرض

39:24

ثقافة السلامة من

39:26

منظور عام لا نقوم

39:28

بفرضه حالياً؟

39:29

>> أنا مؤيد للتنظيم. نحن

39:31

نعارض اللوائح التي

39:32

تحظر النماذج

39:33

المفتوحة المصدر. مرة

39:34

أخرى، لا نعتقد أن

39:35

الأمر يتعلق بمستوى

39:37

قدرة معين، بل يتعلق

39:38

بتغيير الثقافة

39:39

الداخلية للشركات من

39:40

خلال التنظيم. هذا شيء

39:41

ندعمه بالتأكيد. نحن

39:43

بحاجة إلى قدر أكبر

39:44

بكثير من الشفافية.

39:45

ونعم، التغيير

39:46

التنظيمي الذي كنا

39:48

نتحدث عنه. وأعتقد

39:50

أنها مشكلة أننا لا

39:51

نقوم بذلك حالياً.

40:02

>> إذن، إحدى طرق مواءمة

40:03

حوافز الشركات مع

40:05

المصلحة العامة هي

40:06

التنظيم. والجهات

40:09

التنظيمية ترفض

40:10

حالياً القيام بذلك.

40:11

أعني أننا رأيناهم

40:13

للتو يخرجون باتفاق

40:14

طوعي نوعاً ما بين

40:15

مختبرات الذكاء

40:16

الاصطناعي، وهو اتفاق

40:17

لن يكون قابلاً

40:18

للتنفيذ قانوناً، لكن

40:19

أعتقد أنه وُصف من قبل

40:21

ترامب بأنه قابل

40:22

للتنفيذ أخلاقياً،

40:23

وهو أمر مثير للاهتمام

40:24

. شعوري هو أن المنافسة

40:26

قوة قوية جداً في

40:28

الأسواق شديدة

40:29

التنافسية. أعني حتى

40:31

لو نظرت إلى شركات

40:32

وسائل التواصل

40:33

الاجتماعي، أعتقد

40:35

أنها تسببت في قدر

40:36

هائل من الضرر على

40:37

نطاق عالمي، لأنه كان

40:39

من الأهم بالنسبة لها

40:41

كسب حصة سوقية من

40:42

بعضها البعض بدلاً من

40:43

التأكد من أن الطريقة

40:45

التي تُستخدم بها

40:46

أنظمتها لم تكن، تعيق

40:50

ازدهار البشرية. لذا،

40:52

أعتقد أن لدي وجهة نظر

40:54

أكثر تشكيكاً. أعتقد

40:56

حقاً أن دافع الربح

40:58

هنا، مع وجود الكثير

40:59

من الأرباح التي يمكن

41:01

تحقيقها والخوف

41:02

الكبير من انفجار

41:04

فقاعة الاستثمار، هو

41:06

قوة شرسة، وأن مستوى

41:07

القوة المجتمعية

41:09

المضادة يجب أن يكون

41:10

قوياً جداً لإجبار هذه

41:12

الشركات على التصرف

41:14

بمستوى من الأمان

41:16

المطلوب.

41:16

>> أجل، أنا سعيد لأنك

41:18

طرحت مقارنة وسائل

41:19

التواصل الاجتماعي.

41:20

لقد كتبت مقالاً قبل

41:21

بضع سنوات بعنوان "فهم

41:23

خوارزميات توصية

41:24

وسائل التواصل

41:25

الاجتماعي". كان

41:26

الموضوع يتعلق

41:27

بالخوارزميات نفسها

41:29

في الغالب، لكن إحدى

41:30

النقاط التي أثرتها هي

41:32

أن قرار تحسين التفاعل

41:34

، وجعل الناس يستمرون

41:36

في التصفح، اتُخذ دون

41:38

اعتبار كبير لما هو

41:39

مفيد للشركة نفسها على

41:41

المدى الطويل. على

41:43

سبيل المثال، راجعت

41:45

دراسة صدرت عن شركة "

41:46

ميتا" نفسها أظهرت أنه

41:48

عندما اعتمدوا خيارات

41:49

تصميم تزيد من الإدمان

41:51

، مثل إغراق

41:52

المستخدمين

41:53

بالإشعارات، أدى ذلك

41:54

في المدى القصير إلى

41:56

زيادة استخدام

41:57

التطبيق، لكن بعد

41:58

حوالي عام بدأ الناس

42:00

في ترك التطبيق.

42:01

وعندما أتحدث إلى

42:03

طلابي الآن، أجد أن

42:04

جزءاً كبيراً منهم

42:05

قللوا بشكل كبير أو

42:07

تركوا وسائل التواصل

42:08

الاجتماعي تماماً

42:10

لأنهم أدركوا أن

42:11

تجربتهم تتدهور حقاً

42:12

بعد مرور بضعة أشهر.

42:14

وأخشى أن تقع شركات

42:15

الذكاء الاصطناعي في

42:17

الفخ نفسه. ثقافة

42:19

السباق نحو أحدث نموذج

42:21

بأي ثمن، قد يبدو في

42:23

المدى القصير أنه ما

42:25

يحتاجون إليه لتصدر

42:27

العناوين، أو ليكونوا

42:29

في قمة مؤشرات التحليل

42:31

، ولكن نظراً لوجود

42:32

عواقب تتعلق بالسلامة

42:34

، آمل أن يواجهوا

42:36

دعاوى قضائية إذا

42:38

استمروا في هذا الطريق

42:40

. أشعر أن هذا الأمر

42:41

ليس في مصلحتهم

42:42

التجارية على المدى

42:43

الطويل في الواقع.

42:45

>> قد لا يكون في مصلحتهم

42:46

التجارية على المدى

42:48

الطويل، على الرغم من

42:49

أن مثال وسائل التواصل

42:51

الاجتماعي يستحق

42:52

التوقف عنده قليلاً،

42:53

فانظر، يُنظر إلى

42:55

شركات التواصل

42:56

الاجتماعي اليوم بشك

42:57

أكبر بكثير مما كان

42:59

عليه الحال في عام 2012

43:00

مثلاً. كما أنها أكثر

43:02

ثراءً اليوم. تقييمها

43:04

المالي أعلى. شركة "

43:06

ميتا" أصبحت أكبر،

43:07

أليس كذلك؟ تيك توك

43:09

ظاهرة بحد ذاتها.

43:10

أعتقد أننا ننظر إلى

43:12

أمر تقليدي جداً، حيث

43:13

أن ما كافأه السوق وما

43:15

يقول المجتمع على

43:16

الأقل أنه أراده قد لا

43:18

يكونان الشيء نفسه.

43:19

ولو كان لدي شخص من

43:21

إحدى هذه الشركات يجلس

43:22

هنا، لقال: "انظر، نحن

43:24

نهتم بما يفعله

43:25

المستخدمون فعلياً".

43:26

قد يقولون أياً ما

43:27

يقولونه في فصلك

43:28

الدراسي، لكن الناس

43:30

يقضون وقتاً أطول من

43:31

أي وقت مضى على تيك توك

43:32

، وإنستغرام، وبعض هذه

43:34

المواقع، والإعلانات

43:35

تحقق نتائج أفضل من أي

43:37

وقت مضى. "وأم...لست

43:39

متأكداً من أنهم على

43:41

خطأ". لا يمكن إثبات

43:46

خطئهم إلا إذا اتخذ

43:47

المجتمع قراراً يضبط

43:49

السوق في تشكيل مختلف

43:51

عما قد يكون عليه بشكل

43:53

طبيعي أو حالي.

43:54

>> نعم، أعني، مرة أخرى،

43:55

أعتقد أنني أتفق مع

43:57

ذلك إلى حد كبير. ما

43:58

زلت أعتقد أن الشركات

44:00

يمكنها اتخاذ قرارات

44:01

غير منطقية لمصالحها

44:02

طويلة المدى، لأنها-

44:04

خاصة في وادي

44:05

السيليكون-تركز حقاً

44:06

على هذه المقاييس

44:07

قصيرة المدى

44:08

واختبارات (أ/ب).

44:09

>> إذاً، ننتقل هنا إلى

44:11

شيء بدأت تلمس جوانبه،

44:13

وهو الانتشار. وأحد

44:14

الأمور التي تختلف

44:16

فيها وجهة نظرك نوعاً

44:17

ما عن الناس في وادي

44:19

السيليكون، هو أن ظهور

44:20

الذكاء الاصطناعي في

44:22

الاقتصاد وفي العالم

44:24

سيكون أصعب بكثير مما

44:25

يعتقده الناس. وأنه لا

44:27

توجد علاقة مباشرة بين

44:29

الذكاء وذلك. إذاً،

44:30

حدثني قليلاً عن

44:32

الانتشار.

44:33

>> نعم، لقد اتضحت لي هذه

44:34

الفكرة حقاً بعد أشهر

44:35

قليلة من كتابة هذا

44:37

المقال عندما كنت أنظر

44:38

إلى إعلانات "أمتراك"

44:39

الفخورة بمجموعات

44:40

القطارات الجديدة

44:42

التي اشتروها لسلسلة "

44:43

أسيلا" الخاصة بهم. على

44:44

ما يبدو، يمكنها

44:45

الوصول إلى سرعة 165

44:47

ميلاً في الساعة. في

44:48

البداية، فكرت أن هذا

44:49

سيكون أمراً مذهلاً.

44:50

هذا أسرع بكثير من

44:51

سرعة القطارات

44:52

الحالية. ثم تعمقت في

44:53

الأمر أكثر قليلاً،

44:55

واتضح أن السرعة

44:56

المحدودة ليست بسبب

44:57

القطارات نفسها. بل

44:58

بسبب المسارات شديدة

45:00

الانحناء وبنية

45:01

الإشارات التحتية

45:02

التي تعود لقرون مضت.

45:03

وهذه الأشياء لا تتغير

45:05

. ولذلك، لم تتغير

45:06

السرعة المتوسطة

45:06

كثيراً في الواقع. لا

45:08

تزال تتراوح بين 65 و 70

45:09

ميلاً في الساعة. وقد

45:11

أدهشني أن هذه كانت،

45:12

كما تعلم، طريقة أنيقة

45:13

لقول ما كنا نحاول

45:14

قوله حول كون الذكاء

45:15

الاصطناعي تقنية

45:16

عادية، وهو أن الذكاء

45:18

الاصطناعي في معظم

45:19

الأوقات هو القطارات.

45:20

إنه ليس المسار. إذاً،

45:22

الذكاء الاصطناعي

45:23

يسرع جزءاً من العملية

45:25

لم يكن في الأساس يمثل

45:26

عنق الزجاجة. هناك

45:27

العديد من الأشياء

45:28

الأخرى الأكثر

45:29

ارتباطاً بالبنية

45:30

التحتية، وهي أمور

45:31

تحدث حول الذكاء

45:32

الاصطناعي. الثقافة

45:34

التنظيمية، والتنظيم،

45:35

وحتى قدرتنا

45:36

اجتماعيًا على تقبل

45:38

مستوى التغير السنوي

45:39

في حياتنا، مثل

45:40

السيارات ذاتية

45:42

القيادة، بغض النظر عن

45:43

عدد الأرواح التي قد

45:45

تنقذها، فهي تمثل صدمة

45:47

كبيرة للمجتمع ستؤدي

45:48

حتمًا إلى ما نشهده

45:50

بالفعل: نوع من رد

45:51

الفعل السياسي العنيف.

45:53

وأعتقد أن الأمر

45:54

سيستغرق وقتًا طويلًا

45:55

لإجراء كل التعديلات

45:56

المجتمعية اللازمة

45:57

لنتمكن من نشر هذه

45:58

التقنيات.

45:59

>> هذا إن فعلنا ذلك

46:00

أصلًا. لذا، فأنا

46:01

متشكك للغاية بشأن هذا

46:02

الجزء المتعلق

46:03

بالذكاء الاصطناعي،

46:04

أليس كذلك؟ ستسمع سام

46:06

ألتمان يتحدث عن كيف

46:08

سيساعدنا الذكاء

46:09

الاصطناعي من خلال

46:10

الابتكار في حل مشاكل

46:12

الطاقة لدينا. طريقة

46:15

أخرى لتلخيص هذه

46:17

الفكرة هي أن القيد

46:18

الحقيقي الآن على

46:19

الطاقة النظيفة هو

46:21

الذكاء.

46:22

>> مم.

46:23

>> لكنه ليس كذلك.

46:24

>> إنه ليس كذلك.

46:26

>> نحن نعلم أن لدينا

46:27

تقنيات طاقة أفضل

46:28

بكثير مما نستخدمه

46:29

حاليًا لأجزاء كبيرة

46:31

من بنيتنا التحتية

46:32

للطاقة، ونحن لا

46:33

نطبقها لأن ذلك

46:34

سيتعارض مع أرباح

46:35

البعض؛ ولا نطبقها

46:36

بسبب وجود قيود سياسية

46:38

على البناء في العالم

46:39

الحقيقي؛ ولا نطبقها

46:41

لأن دونالد ترامب يكره

46:42

الطاقة الشمسية وطاقة

46:43

الرياح؛ نحن لا نطبقها

46:45

لأسباب عديدة ومتنوعة.

46:46

ويبدو لي أن الكثير من

46:48

الأمور تسير على هذا

46:50

النحو، فإذا سرّعت أو

46:52

زدت من مستوى الذكاء

46:53

الكامن وراءها، فإنك

46:55

ببساطة تصطدم بعوامل

46:57

التقييد الأخرى في

46:58

المجتمع.

46:59

>> صحيح، تطوير الأدوية

47:00

يتطلب اختبارات،

47:01

وهناك إدارة الغذاء

47:02

والدواء، وكل ما أعنيه

47:03

، كتابي "الوفرة"

47:04

يتناول هذا الأمر

47:05

كثيرًا في مجالات أخرى

47:06

. نحن نعلم كيف نصنع

47:07

قطارات أسرع، فهم

47:08

يصنعونها في أماكن

47:10

أخرى. نحن لا نفعل ذلك،

47:11

وليس من الواضح

47:12

بالنسبة لي لماذا سيحل

47:13

الذكاء الاصطناعي هذه

47:15

المشاكل بسرعة أو حتى

47:16

على الإطلاق.

47:17

>> هذا صحيح. وعلاوة على

47:19

ذلك، هناك أنواع

47:20

مختلفة من سباقات

47:21

التسلح. لقد صدر تقرير

47:23

رائع عن شركات التأمين

47:24

الأسبوع الماضي يتحدث

47:26

عن كيف أضاف الذكاء

47:28

الاصطناعي بالفعل،

47:29

على مدى السنوات

47:30

القليلة الماضية،

47:32

مليار دولار إلى

47:33

النفقات الطبية لأن

47:34

المستشفيات تستخدمه

47:36

لتصنيف حالات أكثر

47:37

تعقيدًا لنفس

47:38

التشخيصات ونفس

47:40

العلاج. بالطبع، يجب

47:41

أن نكون متشككين في أي

47:42

أرقام محددة يذكرونها

47:44

، لكن مقال نيويورك

47:45

تايمز حول هذا الموضوع

47:46

تضمن آراء أشخاص آخرين

47:48

وأكاديميين يؤكدون

47:49

نفس النقطة. نعم، إنه

47:50

نوع من سباق التسلح

47:51

الذي نراه كثيرًا. نحن

47:53

نراه في مهنة المحاماة

47:54

، الذكاء الاصطناعي

47:55

للقانون، هناك الكثير

47:56

من الحماس حول ذلك،

47:57

لكنه في الواقع ذكاء

47:58

اصطناعي ضد ذكاء

47:59

اصطناعي. إنها سباق

48:00

تسلح ينتقل فيه

48:01

التوازن ببساطة إلى

48:03

مستوى أعلى. لديّ أنا

48:04

وآش ورقة بحثية حول

48:05

هذا الموضوع مع جاستن

48:06

كيرل. وما نتحدث عنه

48:08

هناك هو أنه لا يوجد

48:09

سباق تسلح فحسب، بل

48:11

توجد اختناقات أخرى.

48:12

على سبيل المثال، إذا

48:14

جعلت الدعاوى

48:14

القضائية أكثر كفاءة

48:16

بكثير، فسيظل هناك عدد

48:17

محدود من القضاة.

48:18

وأعتقد أننا بحاجة،

48:19

كما تعلم، نحن بحاجة

48:20

إلى هؤلاء القضاة

48:21

البشر. لا ينبغي لنا

48:22

استبدال القضاة البشر

48:23

بالذكاء الاصطناعي.

48:25

أعتقد أنه حتى لو كان

48:26

ذلك أكثر كفاءة من بعض

48:27

النواحي، فبالنسبة لي

48:28

هذا يعني بحكم التعريف

48:29

وبشكل بديهي تقريباً

48:30

التخلي عن السيطرة على

48:31

مسار المصير البشري

48:32

للذكاء الاصطناعي،

48:32

لأن القضاة يسنون

48:33

القوانين، وهذا ليس

48:34

شيئاً ينبغي أن نتنازل

48:35

عنه للذكاء الاصطناعي.

48:36

إذن، هذه بعض

48:37

الاختناقات الأساسية

48:38

حقاً.

48:39

>> أريد العودة إلى نقطة "

48:40

الذكاء الاصطناعي ضد

48:41

الذكاء الاصطناعي"

48:42

التي ذكرتها للتو

48:42

لأنني أعتقد أن هذا

48:43

الجانب يتم التقليل من

48:44

شأنه حقاً. أفكر

48:45

كثيراً في سبب عدم

48:46

أداء الإنترنت إلى

48:48

زيادة أكبر في

48:49

الإنتاجية والابتكار

48:50

العالميين مما حققه

48:52

بالفعل. وأعتقد دائماً

48:54

أن السبب هو أنه على

48:55

الرغم من قيامه بكل

48:56

الأشياء التي أرادها

48:57

المثاليون، فقد جعل من

48:59

الممكن التعاون مع

49:00

أشخاص في جميع أنحاء

49:01

العالم فوراً. لقد جعل

49:03

تقريباً كامل مجموعة

49:04

المعرفة البشرية

49:05

متاحة لنا أولاً، ثم

49:07

أصبحت متاحة للذكاء

49:08

الاصطناعي للتدرب

49:09

عليها. لقد فعل أيضاً

49:11

هذا الشيء المعاكس.

49:13

لقد سرّع وتيرتنا،

49:14

ولكنه أبطأنا أيضاً.

49:16

لقد شتت انتباهنا.

49:17

>> ممم.

49:18

>> لذا، الآن بينما تعمل

49:19

على شيء ما، فإنك

49:21

تتنقل ذهاباً وإياباً

49:22

من بريدك الإلكتروني

49:23

إلى لعبة عبر الإنترنت

49:25

وإلى وسائل التواصل

49:26

الاجتماعي. وتتدهور

49:28

قدرتك على التركيز.

49:29

وكما تعلم، هناك كم

49:30

هائل من المواد

49:31

الإباحية، والتي يبدو

49:32

أنها كان لها تأثير

49:33

على ما إذا كان الناس

49:34

يشكلون علاقات

49:35

إنسانية واقعية أم لا.

49:36

إن إضافة أو تقليل

49:38

الاحتكاك في مجال ما

49:39

يؤدي أيضاً إلى تقليله

49:41

في مجالات قد تكون أقل

49:42

فائدة. وعندما تفكر في

49:44

إضافة الذكاء، حسناً،

49:46

ذلك الذكاء سيُضاف إلى

49:48

الجانب الآخر من

49:49

الأمور أيضاً. وأعتقد

49:50

دائماً أننا في بداية

49:52

أي تقنية، نفكر في كل

49:54

الطرق التي يمكن أن

49:55

تجعل كل شيء أفضل.

49:57

وأعتقد أننا نفكر

49:58

كثيراً في الوقت

49:58

الحالي مع الذكاء

49:59

الاصطناعي في الطرق

50:00

التي يمكن أن تجعل

50:02

الأمور أسوأ بشكل كبير

50:03

، أليس كذلك؟ أحداث

50:04

أمن سيبراني ضخمة أو

50:05

تدمير النظام المالي

50:07

أو انقراض البشرية.

50:10

لكن الطرق التي قد

50:11

تجعل الأمور أسوأ بطرق

50:13

مبتذلة، حيث تزيد من

50:15

قدرة الناس على إضاعة

50:17

وقت الآخرين، هي طرق

50:19

يتم التقليل من شأنها

50:21

قليلاً في رأيي.

50:23

>> بالتأكيد. وكما تعلم،

50:25

الأمر ليس مبتذلاً فقط

50:26

. أعتقد أن هناك الكثير

50:28

من هذه الأضرار غير

50:29

الكارثية التي تعد

50:30

خطيرة للغاية. في

50:31

الثورة الصناعية،

50:32

عشنا عدة عقود من ظروف

50:34

العمل المريعة. أعتقد

50:35

أن الأمر نفسه ينطبق

50:37

على الذكاء الاصطناعي

50:38

، فبينما كان هناك

50:39

الكثير من التركيز على

50:40

استبدال الوظائف، كان

50:42

هناك تركيز أقل بكثير

50:43

على كيفية تغييره

50:44

لجودة الوظائف. وأعتقد

50:46

أن هذا مجال كبير لا

50:47

يحظى بالتقدير الكافي

50:48

لأن الذكاء الاصطناعي

50:49

يحول الكثير من

50:50

العاملين في مجال

50:51

المعرفة إلى مديرين

50:52

لوكلاء الذكاء

50:53

الاصطناعي.

50:53

>> مهم.

50:54

>> أليس كذلك؟ والأمر

50:56

المتعلق بكونك مديراً

50:57

هو أنها تجربة سيئة

50:59

نوعاً ما لأنك مسؤول

51:00

عن أخطاء الآخرين. لا

51:01

تحصل على فرصة ممارسة

51:03

المهنة التي تدربت من

51:04

أجلها. لكن كما تعلم،

51:05

كمديرين بشريين، لا

51:06

يمكننا التذمر. إنه

51:07

أجر أعلى، ومكانة أعلى

51:08

، وقد اخترنا ذلك،

51:09

وبالطبع فإن توجيه

51:10

الناس أمر مرضي. مع

51:11

الذكاء الاصطناعي، لا

51:12

تحصل على أي من هذه

51:13

المزايا. عليك إدارة

51:14

هذا الوكيل وتحمل

51:15

مسؤولية أخطائه، لكنك

51:17

لا تحصل على فرصة

51:18

ممارسة المهنة. أعتقد

51:19

أنه يمكننا تصميم

51:20

وكلاء الذكاء

51:20

الاصطناعي بشكل مختلف

51:21

لتجنب ذلك، لكن في

51:22

الوقت الحالي هذا هو

51:23

المسار الذي تتجه إليه

51:24

الأمور. نعم، أعتقد

51:25

أنه يجب أن نكون قلقين

51:26

للغاية بشأن ذلك.

51:27

>> إذن، إلى أي مدى تؤدي

51:29

القصة التي نرويها هنا

51:30

إلى نظرية عما سيحدث

51:31

في الاقتصاد، والتي

51:33

تتسم بالتباين الشديد

51:34

؟ الأشياء التي تحتاج

51:35

إلى اندماج في العالم

51:36

الحقيقي.

51:37

>> مهم.

51:38

>> أليس كذلك؟ يجب أن

51:39

تحدث الأشياء مادياً.

51:40

تحتاج المباني إلى

51:41

البناء، والطاقة، كما

51:42

تعلم، تحتاج خطوط

51:43

النقل إلى التمديد.

51:44

هذا لديه قيود قوية

51:46

جداً لدرجة أنه لا

51:47

يمكن أن يتسارع بهذه

51:48

السرعة.

51:49

>> مهم.

51:50

>> في غضون ذلك، داخل

51:51

العالم الرقمي، يمكن

51:52

للأشياء أن تتحرك

51:53

بسرعة كبيرة جداً جداً

51:54

. لذا، كما تعلم، فيما

51:55

يتعلق بما سيحدث

51:56

للعاملين في الوظائف

51:57

المكتبية الذين

51:58

يعملون بالكامل على

51:59

جهاز كمبيوتر، ويمكن

52:00

أتمتة عملهم بالفعل،

52:01

كما تعلم، كمن يعملون

52:02

في مركز اتصال أو شيء

52:04

من هذا القبيل. أو،

52:05

بشكل منفصل، مثل كل

52:06

جرائم الإنترنت التي

52:08

نتحدث عنها والأمن

52:10

السيبراني، أعتقد أن

52:12

نسخة من هذا المستقبل

52:13

الذي يقلقني هي أن

52:15

معظم ما سيحسن حياة

52:17

الناس يجب أن يحدث في

52:18

العالم المادي

52:20

الحقيقي؛ لكن المكان

52:21

الذي سيتمكن فيه

52:23

الذكاء الاصطناعي من

52:25

التحرك بأسرع وقت هو

52:26

العالم الرقمي. وكحالة

52:28

توازن، لا أعتقد أن

52:29

هذا يبدو كالعالم الذي

52:31

نحصل فيه على أكبر

52:32

فائدة من الذكاء

52:33

الاصطناعي، وقد يكون

52:34

في الواقع العالم الذي

52:35

نتلقى فيه أكبر قدر من

52:37

الضرر منه.

52:37

>> نعم، هذا ممكن. لا أعرف

52:40

. أعتقد أن هناك طرقاً،

52:41

كما تعلم، يمكننا من

52:42

خلالها تغيير ذلك. لا

52:44

أعتقد أن "السرعة" هي

52:45

بتلك السرعة، أولاً

52:46

وقبل كل شيء. على سبيل

52:48

المثال، لقد ذكرت

52:49

مراكز الاتصال. أعني

52:50

أنها لا تزال موجودة.

52:52

تعلم، عندما تم إطلاق

52:53

ChatGPT، كان الكثير من

52:54

الناس يتوقعون أننا

52:56

سنستبدلهم جميعاً في

52:57

غضون عام. أعني، كلمة "

52:58

بوت" موجودة مباشرة في

53:00

الاسم. إذا كان الذكاء

53:01

الاصطناعي سيجعل عمال

53:02

مراكز الاتصال أكثر

53:03

إنتاجية-وهو أمر مرجح-

53:05

فهناك الكثير من الطلب

53:06

الكامن. في كثير من

53:07

الأحيان، لا نتصل

53:08

بمراكز الخدمة لأنها

53:09

تجربة محبطة. لذا، مرة

53:11

أخرى، إنها مسألة

53:12

تتعلق بـ "مفارقة

53:13

جيفونز".

53:13

>> هل تود أن تشرح ما هي؟

53:15

>> نعم، بالضبط، هي فكرة

53:16

أنه عندما يصبح إنتاج

53:18

شيء ما أرخص، يزداد

53:19

الطلب عليه. لننظر إلى

53:21

القطاع الذي تكون فيه

53:22

القدرات هي الأكثر

53:23

تقدماً بالفعل، وهو

53:24

على الأرجح هندسة

53:26

البرمجيات.

53:26

>> همم.

53:27

>> كان إنتاج البرمجيات

53:28

مكلفاً للغاية، لذا لم

53:30

يكن يُكتب سوى بضعة

53:31

عشرات الآلاف من أسطر

53:33

التعليمات البرمجية

53:34

عالمياً سنوياً،

53:35

والآن توسع ذلك بمقدار

53:37

مليون ضعف تقريباً.

53:38

لذا، على المدى الطويل

53:40

، سواء كان هذا سيؤدي

53:42

إلى زيادة الطلب على

53:44

مهندسي البرمجيات أو

53:45

ما إذا كانت الآفاق

53:47

الوظيفية الصعبة التي

53:49

نراها للمبتدئين

53:50

ستستمر، فما زال الأمر

53:52

غير واضح. أعتقد أن كلا

53:54

الاحتمالين ممكن،

53:55

ولكن على أية حال، إذا

53:57

حدث هذا على مدى 20

53:58

عاماً، فهو يتماشى

54:00

مجدداً مع تحولات كبرى

54:01

أخرى مثل الثورة

54:02

الصناعية حيث اختفت

54:04

وظائف كثيرة، لكن خلقت

54:06

وظائف جديدة أخرى

54:07

كثيرة. مثال آخر،

54:08

وظائف الترجمة. أعني،

54:11

قديماً حوالي عام 2016،

54:12

قبل ما نسميه الآن

54:14

الذكاء الاصطناعي

54:15

التوليدي، أصبحت

54:16

نماذج الترجمة قريبة

54:18

جداً من كفاءة البشر.

54:20

لكن تلك الوظائف لا

54:21

تزال قائمة بشكل جيد.

54:23

طبيعة الوظيفة تغيرت

54:24

كثيراً. لذا، مرة أخرى

54:26

، هناك طلب أكبر بكثير

54:27

تم تحريره بفضل حقيقة

54:29

أنه يمكنك الآن ترجمة

54:30

أي شيء إلى أي لغة.

54:32

إذاً، مفارقة جيفونز.

54:34

>> لقد أجريت للتو حواراً

54:35

مع بيل جيتس، وعندما

54:37

طرحت هذا الأمر، كان

54:38

ناقداً له نوعاً ما.

54:40

>> إذاً، أنت لا تؤمن

54:41

بمفارقة جيفونز. اذكر

54:43

مهنة يدوية تخضع

54:44

لمفارقة جيفونز. إذاً،

54:46

ألا تهتم بالمهن

54:47

اليدوية؟

54:47

>> أنا أهتم بالمهن

54:48

اليدوية. إذاً، السؤال

54:50

هو أنت.

54:50

>> اذكر أي شيء في مجال

54:52

المهن اليدوية يخضع

54:53

لذلك.

54:53

>> كانت وجهة نظره أن

54:55

هندسة البرمجيات هي

54:56

بالفعل قطاع في

54:57

الاقتصاد به الكثير من

54:59

الطلب غير الملباة.

55:00

كما تعلم، يمكن القول

55:02

إن الجميع يرغبون في

55:03

الحصول على مهندسي

55:04

برمجيات خاصين بهم.

55:05

لذا، في عالم يتسارع

55:06

فيه ذلك بشكل كبير،

55:07

يمكنك الحصول على

55:08

تأثير الطلب هذا الذي

55:09

يخلق ببساطة مزيدًا من

55:10

الطلب على مهندسي

55:11

البرمجيات لأنهم

55:12

أصبحوا أرخص الآن.

55:13

لكنه تابع قائلاً إن

55:14

الكثير من الأشياء

55:15

ليست هكذا. فكر مثلاً

55:17

في سائق الشاحنة. إذا

55:19

وصلنا إلى نقطة تكون

55:20

فيها الشاحنات ذاتية

55:21

القيادة، أولاً، هناك

55:22

قدر محدود من الطلب

55:24

على النقل بالشاحنات،

55:25

وثانياً، لم يعد هناك

55:26

سائق في تلك الشاحنة.

55:27

إذا نظرت إلى الكثير

55:29

من الأشخاص الذين تمت

55:30

أتمتة وظائفهم أو

55:31

نُقلت إلى الصين في

55:32

قطاع التصنيع، فصحيح

55:33

أن الاقتصاد استمر في

55:35

النمو، لكن العديد من

55:36

هؤلاء الأفراد واجهوا

55:37

وقتًا عصيبًا للغاية.

55:39

وهكذا، حجته هي أن

55:40

مفارقة جيفونز لن تكون

55:42

كبيرة بما يكفي

55:43

للتعامل مع هذا لأن

55:44

هناك الكثير من مجالات

55:46

الاقتصاد التي لا يوجد

55:47

فيها طلب كامن. هناك

55:49

فقط قدر من الطلب بقدر

55:50

ما هو موجود بالفعل.

55:51

كيف تفكر في ذلك؟

55:53

>> أعني أنه محق تماماً

55:54

بشأن سائقي الشاحنات،

55:55

على ما أعتقد. أتفق

55:56

تماماً مع ذلك. الطلب

55:58

هناك محدود نسبياً.

55:59

السؤال هو ما إذا كان

56:01

ذلك هو القاعدة أم

56:02

الاستثناء. دعني أضع

56:03

الأمر بهذه الطريقة.

56:04

انظر إلى ما نفعله هنا.

56:06

لم يطلب أحد هذا. كما

56:07

تعلم، إذا عدت بالزمن

56:09

إلى الوراء 100 عام أو 200

56:10

عام، فسيكون الأمر

56:11

أشبه بـ: كيف تعتبر هذه

56:12

وظيفة حقيقية؟ معظم

56:13

الوظائف التي لدينا

56:15

اليوم هي وظائف تقع في

56:16

مرتبة أعلى في هرم

56:17

ماسلو، إذا جاز

56:18

التعبير. إنها لا تلبي

56:20

طلباً أو حاجة حقيقية

56:22

ثابتة يحتاجها الناس

56:24

من أجل العيش. نحن نقوم

56:25

بهذه الأشياء لأنها

56:27

ممتعة والناس يحبون

56:28

الاستماع إليها. معظم

56:30

وظائف ذوي الياقات

56:31

البيضاء هكذا. هذا هو

56:33

رأيي. معظم وظائف ذوي

56:34

الياقات البيضاء

56:35

تنطبق عليها مفارقة

56:36

جيفونز. إذا أصبح

56:38

إنتاجها أسهل، فسيكون

56:39

هناك طلب عليها، خاصة

56:41

مع ارتفاع دخل الناس

56:43

تدريجياً وزيادة

56:44

الإنفاق على هذه

56:46

الأشياء الأقل ضرورة

56:47

والأكثر رفاهية. وكذلك

56:49

وظائف ذوي الياقات

56:50

الزرقاء. هناك مقال

56:52

رائع لأليكس إيماس

56:53

بعنوان "ما الذي سيكون

56:54

نادراً"، ويشير فيه

56:55

إلى أن وظيفة باريستا

56:56

ستاربكس، على سبيل

56:57

المثال، لا ينبغي أن

56:58

تكون موجودة بالفعل.

56:59

فنحن نعرف منذ فترة

57:00

طويلة كيفية أتمتة ذلك

57:02

. يمكننا حتى صنع

57:03

القهوة في المنزل. لا

57:04

أعلم إن كان قد قال ذلك

57:05

تحديداً، لكن كما تعلم

57:07

، الطبيعة العلاقاتية

57:08

للوظيفة هي ما يهم هنا.

57:09

وبالتالي، أعتقد أن

57:11

تلك الوظائف ستظل

57:12

مستقرة إلى حد كبير

57:13

حتى لو جعلها الذكاء

57:14

الاصطناعي أرخص نوعاً

57:16

ما. لذا، أعتقد أن

57:17

وظائف مثل قيادة

57:18

الشاحنات هي

57:19

الاستثناء.

57:20

>> وبينما نقترب من

57:21

الختام، ما الذي يجب

57:23

أن يحدث في العامين

57:25

المقبلين لتقول: "أوه،

57:26

يبدو هذا أقل طبيعية

57:28

مما كنا نظن". "أو أن

57:30

هذا الأمر انحرف عن

57:31

مساره أكثر مما توقعنا

57:32

". ما هي الأدلة التي

57:34

يجب أن تظهر لكي تغير

57:36

أطروحتك بشكل كبير؟

57:37

>> بالتأكيد. نعم، هناك

57:39

جوانب تتعلق

57:40

بالاقتصاد، وأخرى

57:41

تتعلق بالسلامة. في

57:42

الاقتصاد، إذا بدأنا

57:44

نرى عند مستوى معين من

57:46

القدرات أن الأمر لم

57:47

يعد مجرد عملية تكيف

57:49

البشر معه واستخدامه

57:51

لتعزيز إنتاجيتهم

57:52

وإدارة الوكلاء، وهو

57:54

ما نراه حتى الآن؛ بل

57:56

بدأ في استبدال المهن

57:57

بالكامل، سواء كان

57:59

مهندس برمجيات أو أي

58:01

مهنة أخرى، فأعتقد أن

58:02

هذا سيكون مختلفاً

58:04

تماماً عما نتوقعه في

58:06

الغالب. أما بخصوص

58:07

السلامة، خاصة مع

58:08

ادعاء الشركات

58:09

اقترابها من التحسين

58:11

الذاتي المتكرر، فأنا

58:12

لا أعتقد أنه ينبغي

58:14

عليهم الاندفاع نحو

58:15

التحسين الذاتي

58:16

المتكرر المستقل

58:17

تماماً في المقام

58:18

الأول، وهو ما أعتقد

58:20

أنك قلته أيضاً؛ ومع

58:21

ذلك، وجهة نظرنا هي

58:23

أنه حتى لو حدث ذلك،

58:24

فلن يؤدي إلى ذكاء

58:25

فائق لأن معوقات

58:26

الذكاء الفائق خارجية.

58:28

لا يوجد شيء يمكنك

58:29

القيام به في المختبر

58:30

لتعليم نموذج الذكاء

58:31

الاصطناعي كيفية علاج

58:33

السرطان أو أي شيء

58:34

تأمل الشركات في

58:35

تحقيقه. لكن مجدداً،

58:36

هذا ادعاء تجريبي،

58:37

وبالتأكيد سيؤدي ذلك

58:38

إلى تفنيد أطروحتنا

58:40

بالكامل.

58:40

>> سؤالنا الأخير، ما هي

58:42

الكتب الثلاثة التي

58:43

توصي بها للجمهور؟

58:44

>> بالتأكيد. كما تعلم،

58:46

في هذه المحادثة، كان

58:47

لدي بشكل عام نظرة

58:48

متفائلة قليلاً عما

58:49

اعتدنا سماعه، خاصة

58:51

فيما يتعلق بسلامة

58:52

الذكاء الاصطناعي. لذا

58:53

، تماشياً مع ذلك،

58:54

أحببت حقاً كتاب هانا

58:56

ريتشي "ليس نهاية

58:57

العالم"(Not the End of the World)

58:58

. لديها كتاب أحدث، لكن

59:00

هذا الكتاب صدر في 2024

59:01

وما زلت معجباً به

59:02

جداً. العنوان الفرعي

59:04

يشبه شيئاً كهذا: كيف

59:05

يمكننا أن نكون الجيل

59:06

الأول الذي يبني

59:07

كوكباً مستداماً. إنه

59:08

نظرة متفائلة للمناخ،

59:09

الذي عادة ما يكون

59:11

مليئاً بقصص التشاؤم

59:12

والكوارث، لذا أحببته

59:13

حقاً لهذا السبب.

59:14

>> إنه كتاب متفائل جداً

59:16

بشأن التكنولوجيا. أنا

59:17

أيضاً أحب ذلك الكتاب

59:18

كثيراً، فهو يجعلك

59:19

تدرك أننا نصنع بالفعل

59:20

أشياء تتحسن بمرور

59:21

الوقت.

59:22

>> صحيح.

59:22

>> وأعتقد أننا أحياناً

59:23

قد نصل إلى نظرة سلبية

59:24

للغاية تجاه

59:25

التكنولوجيا.

59:26

>> صحيح. أه، فيما يخص

59:27

الصين، وهو بالطبع

59:29

موضوع يهتم به

59:30

الكثيرون. أنا متأكد

59:31

من أنك سمعت ترشيح هذا

59:32

الكتاب كثيراً. أعجبني

59:34

كتاب "بريك نك" لدان

59:35

وانغ. يحتوي أيضاً على

59:37

الكثير من أصداء

59:38

الوفرة. لكن فكرة

59:39

التفكير في مجتمع

59:41

قانوني مقابل مجتمع

59:43

هندسي كانت برأيي

59:44

طريقة جيدة وموجزة

59:46

للغاية لالتقاط

59:47

الكثير من الفروق

59:49

الكلية والجزئية.

59:52

والأخير هو كلاسيكية

59:54

قديمة. إذا جاز لي

59:55

التمهيد، فقد قرأت ذات

59:56

مرة ورقة بحثية من

59:58

صفحتين بعنوان "كيف

59:59

تفشل الأنظمة المعقدة"

60:01

. ظننت أن الورقة كانت

60:02

تدور حول البرمجيات.

60:03

أدركت في الواقع أنها

60:05

كانت عن الأنظمة

60:06

الطبية وكتبها طبيب

60:07

تخدير. وتعلمت أن هناك

60:09

دراسة للأنظمة تفسر

60:10

بالفعل الأنماط في

60:11

جميع أنواع الأنظمة،

60:13

الطبيعية والاجتماعية

60:14

والهندسية. وهذا قادني

60:16

إلى كتاب "التفكير

60:17

النظمي" لدونيلا ميدوز

60:19

منذ سنوات طويلة جداً.

60:21

>> أرفيند نارايانان،

60:22

شكراً جزيلاً لك.

60:23

>> شكراً لك يا عزرا. لقد

60:25

كان هذا ممتعاً للغاية

60:26

.

Interactive Summary

Loading summary...