Is AI safety even a solvable problem? The White House's new AI czar and Sam Altman's comments

Watch on YouTube

Now Playing

Transcript

513 segments

0:00

آه، سلامة الذكاء

0:00

الاصطناعي، أليس كذلك

0:02

؟ علينا الانتظار بضعة

0:03

أشهر لفيلم "أفينجرز:

0:04

يوم القيامة"، لكن

0:04

المنتقمين الذين

0:05

يواجهون يوم قيامة

0:06

الذكاء الاصطناعي

0:07

موجودون بالفعل. أعلن

0:08

البيت الأبيض عن تعيين

0:09

قيادي لملف الذكاء

0:10

الاصطناعي. لديهم

0:11

الكثير من المهام، من

0:12

المخاوف بشأن سلامة

0:13

الذكاء الاصطناعي إلى

0:14

سيناريوهات يوم

0:15

القيامة المحتملة،

0:16

لكنني أريد البدء

0:17

بسؤال أكثر شمولاً.

0:19

يسعدني طرح الأمر

0:20

للنقاش أمام المجموعة.

0:21

هل هذه مشكلة قابلة

0:22

للحل أصلاً؟ هل هذه

0:24

مهمة ممكنة؟ هل هذا

0:25

سعي وراء سراب؟ لأن

0:26

هذه التقنية تتطور

0:27

بسرعة كبيرة، يبدو أن

0:29

من يبنونها لا يعرفون

0:30

كيفية التعامل معها،

0:31

أو كيفية بناء حواجز

0:32

أمان لها. كيف ستتمكن

0:33

الحكومة الأمريكية من

0:34

معرفة ذلك؟

0:35

>> أعني، أظن أنه إذا

0:36

كانت مشكلة قابلة للحل

0:37

، فالأشخاص الحاليون

0:39

الذين يتولون

0:39

مسؤوليتها قد لا

0:40

يكونون في أفضل وضع

0:41

للقيام بذلك. حين أفكر

0:43

في الأشخاص المؤهلين

0:44

جيداً لحل هذه المعضلة

0:46

، للأسف، هم أنفسهم من

0:47

يطورون هذه التقنية أو

0:49

من يصرخون محذرين من

0:50

وجود احتمالية 10%أن

0:51

تقضي علينا جميعاً.

0:53

لذا، أعتقد أن هذا

0:54

يشكل عائقاً نوعاً ما

0:56

في طريق الوصول إلى حل.

0:57

أتذكر في المرة

0:58

الأخيرة التي كنت فيها

0:59

هنا، أعتقد أن كاليب

1:00

سيلفر قال: "لم نضع

1:01

أحزمة الأمان في

1:02

السيارات إلا بعد وقوع

1:03

وفيات". "لم نضع قوانين

1:04

ضد القيادة تحت تأثير

1:05

الكحول إلا بعد وقوع

1:07

وفيات". لذا، ربما يعني

1:08

هذا أن أفضل رادع بعد

1:09

فترة معينة هو: "مهلاً،

1:10

إليكم حجم العقوبة

1:11

التي سنوقعها عليكم

1:13

إذا ساءت الأمور". لكن،

1:14

أظن أن هذا يتطلب حدوث

1:15

الأمور السيئة أولاً.

1:17

>> صحيح. لورا، ما رأيك؟

1:19

>> أعتقد أن التكنولوجيا

1:21

تتحرك دائماً أسرع

1:22

بكثير من الحكومة،

1:23

وأعتقد أن تدخل جاي

1:24

ووضعه لهذه القاعدة

1:25

الثنائية لمدة 120

1:26

يوماً يطرح السؤال:

1:27

ماذا سيحدث بعد مرور

1:28

الـ 120 يوماً؟ فترة الـ

1:30

120 يوماً لا تعني أنه

1:31

سيتم فرض أي شيء. ولا

1:33

تعني أن التنظيم سيخضع

1:35

للرقابة. لذا، ما هي

1:36

الـ 120 يوماً حقاً؟ وهل

1:38

نحتاج إلى تنظيم

1:39

للذكاء الاصطناعي

1:40

بمستوى معين؟ لكننا

1:42

نعلم أيضاً أن الذكاء

1:43

الاصطناعي يتحرك

1:44

دائماً بشكل أسرع مما

1:46

يمكن للحكومة القيام

1:47

به.

1:47

>> كصحفي، مفتاح تحديد

1:48

المواعيد النهائية هو

1:49

جعلها مرنة وغامضة بعض

1:51

الشيء، بحيث إذا لم

1:52

تلتزم بها، فلا بأس.

1:53

شاي، أريد إشراكك في

1:54

الحديث. ما رأيك في

1:55

منصب قيادة الذكاء

1:56

الاصطناعي والمهمة

1:57

الموكلة إليه؟

1:58

>> اسمع، لقد تدخلت الجهة

1:59

الرائدة في الذكاء

2:00

الاصطناعي بالفعل،

2:01

وهي شركة إنفيديا.

2:02

إنفيديا مثال مثالي

2:03

لشركة تحاول تحويل

2:04

المشكلة إلى فرصة بنية

2:05

تحتية حقيقية، وقد

2:06

رأيتم ذلك الأسبوع

2:07

الماضي. ستعمل "أوبن

2:09

شيل" على إنشاء هذا

2:10

النوع من الحدود

2:11

البرمجية حول الوكيل،

2:12

بينما سيعمل "سنتشري"

2:13

على "بلوفيلد 4". ولكن

2:15

بغض النظر، أنت ترى أن

2:16

جينسن يعلم أن هذه

2:18

ستكون مشكلة، وبدلاً

2:19

من انتظار شخص آخر

2:20

لإنشاء حواجز الحماية

2:22

هذه، سنخلق الفرصة

2:23

للجميع، وهذا هو سبب

2:25

استمرار صعود شركات

2:26

الأمن السيبراني. لكن

2:28

نعم، كما ذكرتم، أعني

2:29

أنه يتعين علينا

2:30

التأكد من أن السردية

2:31

لا تتمحور حول إبطاء

2:33

تطوير الذكاء

2:33

الاصطناعي، بل التأكد

2:35

من جعله أكثر أماناً

2:36

والسماح للتقدم

2:37

بالاستمرار. أعتقد أن

2:38

جينسن تدخل في الوقت

2:40

المناسب.

2:40

>> نعم.

2:41

>> أوه، نعم، بالتأكيد.

2:42

>> أليس كذلك؟ حتى الآن،

2:44

مما رأيته، هذه هي

2:46

الخطوات الحقيقية

2:47

الأولى التي نتخذها

2:48

لمحاولة تنظيم

2:49

المخرجات. حتى الآن،

2:51

يبدو أن كل شيء كان

2:52

يتعلق بالتحكم في

2:53

المدخلات، مثل عدم

2:54

رغبة الناس في وجود

2:55

مراكز بيانات في

2:56

مجتمعهم وما إلى ذلك.

2:57

لذا يبدو هذا وكأنه

2:58

خطوات أولية حذرة في

2:59

مجال كان حتى الآن

3:01

أشبه بـ "الغرب

3:02

المتوحش"، مما يعني

3:03

أننا ربما سنرتكب

3:04

أخطاء، ولكنه يعني

3:05

أيضاً أن معظم ما

3:06

رأيناه من الرئيس هو

3:07

أنه لا توجد رغبة على

3:09

الإطلاق في التخلف عن

3:10

الركب. إذا كان عليك

3:12

اختيار رسالة واحدة من

3:13

الرئيس حول الذكاء

3:14

الاصطناعي، أعتقد

3:15

أنها ستكون الريادة،

3:17

وأي شيء يهدد ذلك هو

3:18

أمر سيء.

3:19

>> حسناً، أعتقد أيضاً أن

3:20

جميع مشكلات الذكاء

3:22

الاصطناعي الحالية

3:23

تجاوزت حدود ما كان

3:25

ينبغي أن يحدث. لقد

3:26

كانت مجرد "هفوات". لم

3:28

تكن متعمدة. لذا أعتقد

3:30

أنه يجب عليك التأكد

3:32

من وجود بعض حواجز

3:33

الحماية قبل أن تتحول

3:35

إلى تهديدات خارجية

3:36

حقيقية، حيث يحاول شخص

3:38

ما بالفعل مهاجمة هذه

3:39

الأنظمة التي تزداد

3:40

تطوراً. لذا أعتقد أنه

3:42

من المهم جداً القيام

3:44

بذلك الآن قبل أن يتم

3:45

اختراق أي نظام مالي

3:47

أو صحي فجأة، ونضطر

3:48

للعودة خمس أو عشر

3:49

سنوات إلى الوراء، ومن

3:51

يدري من كان وراء ذلك

3:53

الهجوم، كدولة أخرى أو

3:54

كيان ما.

3:55

>> أحب هفوات الذكاء

3:56

الاصطناعي. أحب الذكاء

3:57

الاصطناعي ويمكنني

3:58

تخيل مدونة "أوبن أيه

3:59

آي". لقد ارتكبنا هفوة،

4:01

نعتذر. لكنني أعتقد أن

4:02

هذا يقودنا إلى سؤال

4:03

أكبر، أليس كذلك؟

4:04

بخصوص هذا، ما مدى

4:06

ارتياحنا للتضحية

4:07

ببعض الأمان من أجل

4:09

الابتكار؟ لوك، لقد

4:10

تطرقت إلى موضوع مقاعد

4:12

السيارات، كما تعلم،

4:13

أحزمة الأمان في

4:14

السيارات. أمم، كما

4:15

تعلم، سأحضر سام

4:16

ألتمان إلى هنا.

4:17

يمكننا التحدث كثيراً

4:19

عنه. كان لديه مقال

4:20

كبير في فانيتي فير

4:21

اليوم، لكن من بين

4:22

العديد من الأشياء

4:23

التي قالها مؤخراً،

4:25

تعلم، هو أنك تحتاج

4:26

لتقبل حدوث بعض

4:27

الأشياء السيئة لجني

4:28

الفوائد. إذن، هو

4:29

المثل القديم القائل:

4:31

لا يمكنك صنع عجة دون

4:32

كسر البيض. أنا أتفق مع

4:33

ذلك، لكن في الوقت

4:34

نفسه، إذا كنت تعلم،

4:35

في الماضي عندما كانوا

4:37

يصنعون طراز تي، لو

4:38

قال هنري فورد: "اسمعوا

4:39

، بعض سياراتنا ستنفجر

4:40

فحسب". إنه، كما تعلم،

4:42

سيحدث ذلك. أعتقد أن

4:43

عدداً أقل بكثير من

4:44

الناس كانوا

4:44

سيستخدمون السيارات.

4:45

إذن، أعتقد يا وارن،

4:47

أين ترى التوازن فيما

4:48

يتعلق بقبول تحمل قدر

4:50

من المخاطرة مقابل عدم

4:51

التخلص من الجوهر مع

4:53

المظاهر، إذا جاز

4:54

التعبير؟

4:54

>> أعني، أعتقد أن السؤال

4:56

هو ما الذي يعتبر

4:58

سيئاً، كما تعلم، وكيف

4:59

نمضي قدماً من هناك؟

5:01

لأنه، هل هو سيئ؟ هل هو

5:04

سيئ للمستهلك، أم أنه

5:07

سيئ أو جيد للمستثمر؟

5:09

لكن المستهلك هو من

5:11

يجني الفوائد الرهيبة

5:13

، أو ليس حتى الرهيبة،

5:14

بل يتعرض للأشياء

5:16

السيئة التي تحدث له؟

5:18

>> صحيح.

5:19

>> ماذا لو كان الأمر

5:20

سيئاً إذا تم الكشف عن

5:21

عنواني أو بياناتي من

5:22

قبل شخص يقوم بالبحث

5:24

عني أو شيء من هذا

5:25

القبيل؟ أنا سأعتبر

5:26

ذلك أمراً سيئاً. إذا

5:28

قام وكيل بذلك، سأقول:

5:29

"مهلاً، ربما يجب أن

5:31

نعاقب ذلك الوكيل، أو

5:32

يجب أن أحصل على نوع من

5:33

التعويض منه". لذا، أرى

5:35

بالفعل مجالاً لأشياء

5:37

كانت سيئة، ومع ذلك

5:39

تظل التكنولوجيا

5:40

الأساسية مفيدة جداً

5:42

من وجهة نظر استهلاكية

5:44

. أنا أستخدم هذا

5:45

الوكيل الذي يخبرني

5:46

بوصول رسائل البريد

5:47

الإلكتروني الخاصة بي

5:49

حول المواضيع التي

5:50

نناقشها اليوم. لذا،

5:51

كما تعلم، من المفيد

5:52

دائماً امتلاك مساعد

5:53

شخصي.

5:54

>> ممم. صحيح. أجل. شو، لا

5:56

أعرف ما إذا كانت لديك

5:57

أفكار حول ما هو مستوى

5:59

راحتك فيما يتعلق

6:00

بكونك شخصاً يخاطر؟

6:01

>> اسمع، أعتقد أن الذكاء

6:02

الاصطناعي يعاني من

6:04

مشكلة علاقات عامة

6:05

حقيقية، والمؤسف أن

6:06

المتحدثين باسمه مجرد

6:07

أطفال. سام وداريو

6:09

مجرد أطفال لا أكثر. لا

6:10

ينبغي أن يكونا

6:11

واجهتين لهذه الحركة

6:12

التي لا تتكرر إلا مرة

6:14

كل جيل. لكن لسوء الحظ،

6:15

هذا هو الواقع. لذا،

6:16

أعتقد فيما يخص تعليق

6:17

سام، على سبيل المثال،

6:18

أنه كان يتحدث عن ذكاء

6:20

اصطناعي بلا مخاطر

6:20

مقابل ذكاء اصطناعي

6:21

مُدار المخاطر. لكن

6:22

الطريقة التي قدم بها

6:24

الأمر كانت سيئة

6:25

للغاية. والمعيار ليس

6:26

كذلك، فقد قال: "

6:26

سيستخدم الناس الذكاء

6:27

الاصطناعي في عمليات

6:28

الاحتيال. ولن يقوم

6:29

أحد باختراق أي شيء

6:30

باستخدامه". بالطبع،

6:32

سيفعلون ذلك. لذا،

6:33

أعتقد أنه ستكون هناك

6:35

دراسات حالة، لكنها

6:36

ستمثل نسبة ضئيلة. لن

6:38

تكون هي الجزء الأكبر

6:39

منها. مثل النار، هل

6:41

نتوقف عن إشعال النار

6:43

لمجرد أن شخصاً ما قد

6:44

يتسبب في كارثة؟ لا،

6:46

عليك فقط احتواؤها

6:48

والتأكد من وجود

6:49

تدابير تمنع تحولها

6:51

إلى كارثة.

6:53

>> أريد الانتقال إلى

6:55

الجانب التنظيمي وكيف

6:56

ندير المخاطر. سأقوم

6:58

بقفزة صغيرة في آلة

7:00

الزمن. لنعد إلى عام 2010

7:03

. سأختصر القصة، كان

7:04

هناك ما يسمى

7:04

بالانهيار الخاطف.

7:05

ربما يكون بعضكم على

7:06

دراية به. قد تتذكرونه.

7:08

السوق يهبط ثم يعود

7:09

للارتفاع في ثوانٍ

7:10

معدودة. باختصار، أصيب

7:11

الناس بالذعر. كانوا

7:13

يتساءلون: "ما الذي

7:13

يحدث مع التداول

7:14

الخوارزمي هذا؟" وحدث

7:15

الكثير من التنظيمات

7:16

والكثير من الأمور.

7:17

كتب مايكل لويس كتاباً

7:18

حول ذلك. وتحديداً،

7:19

ظهرت لائحة "AT" الصادرة

7:21

عن لجنة تداول السلع

7:22

الآجلة. وكان جزء منها

7:23

يطالب بكود المصدر

7:25

لجميع المتداولين

7:26

الخوارزميين، لنتمكن

7:27

من فهم هؤلاء اللاعبين

7:29

في الأسواق. السبب في

7:30

ذكري لهذا هو أن الناس

7:32

اعترضوا بشدة حينها،

7:33

أليس كذلك؟ كانت هذه

7:34

أسراراً تجارية تجني

7:36

منها تلك الشركات

7:37

الكثير من المال.

7:38

وعلاقة هذا بالذكاء

7:39

الاصطناعي هي: ماذا لو

7:40

فرضت تنظيمات تتطلب

7:42

منا الاطلاع فعلياً

7:43

على داخل نماذجكم؟ نحن

7:44

بحاجة لفهم هذه

7:45

الصناديق السوداء.

7:47

أتساءل إلى أي مدى

7:48

سيكون هؤلاء الأشخاص،

7:49

خاصة من كانوا يطالبون

7:50

بشدة بالمزيد من

7:51

التنظيم، مرتاحين

7:52

لتسليم مفاتيح شركات

7:53

تبلغ قيمتها السوقية

7:54

تريليونات الدولارات،

7:56

وفقاً لمستثمريهم. هذا

7:57

هو بيت القصيد، وهو ما

7:59

طرحته في البداية.

8:00

أعتقد أن هناك مشكلة

8:01

حقيقية في القدرة على

8:02

تنظيم هذا المجال

8:03

فعلياً، لأنك في

8:04

النهاية ستضطر إلى

8:05

تسليم مفاتيح القلعة

8:06

لأشخاص، والقلعة تقدر

8:07

قيمتها بتريليونات

8:08

الدولارات. لكن، لا

8:09

أعلم، ربما لا أنظر

8:10

للأمر بالزاوية

8:11

الصحيحة. ما رأيك؟

8:12

>> أليس هذا نوعاً ما ما

8:13

يطالبون به؟ أعني،

8:14

أليس هذا هو جوهر ما

8:15

يواجهه داريو بشأن

8:16

النماذج الرائدة؟

8:17

كأنهم يقولون: أرجوكم،

8:18

ندعو أحداً للدخول.

8:19

ليكن شخصاً مستقلاً،

8:21

وربما بمسافة معينة،

8:22

أو على الأقل برعاية

8:24

حكومية ما، أو جهة

8:25

تسعى لدعم حكومي،

8:27

لتأتي وتقول: "أعطونا

8:28

الضوء الأخضر"، وتعمل

8:30

كفريق أحمر لاختبار أي

8:31

نماذج جديدة قد

8:33

نبتكرها، وتكشف

8:34

الثغرات فيما أنجزناه

8:35

، وتكون جزءاً منا.

8:37

يبدو أن هذا هو ما

8:38

يطالبون به إلى حد

8:39

كبير، ويبقى أن نرى ما

8:41

إذا كانوا سيحصلون

8:42

عليه من جاي كلايتون

8:43

أو غيره.

8:44

>> صحيح. أجل. لا أعلم.

8:46

شاير أو لورين، هل

8:47

لديكما أفكار حول

8:48

كيفية إدارة هذه

8:50

المخاطر أو كيفية

8:51

تنظيم هذا المجال؟

8:52

>> حسناً، أعتقد أن جنسن

8:53

يقوم بذلك نيابة عنا،

8:54

من خلال الاستحواذ على

8:56

"هاغينغ فيس" ودعم

8:57

المصادر المفتوحة. مرة

8:58

أخرى، سام وداريو، لا

8:59

أريد مهاجمتهما،

9:00

لكنهما يفعلان ذلك

9:01

بدافع الدفاع عن النفس

9:03

. فإذا اكتسب نهج

9:04

المصادر المفتوحة

9:05

زخماً، فإنهما

9:06

يمتلكان احتكاراً

9:07

ثنائياً حالياً،

9:08

والنموذج الرائد ليس

9:09

له سقف. لذا، أعتقد أنه

9:11

من المهم جداً الآن

9:12

التركيز بشكل أكبر على

9:13

المعايير التقنية

9:14

التي تجبر هذه الشركات

9:16

فعلياً على تنفيذ هذه

9:17

الأنواع من قضايا

9:18

الذكاء الاصطناعي.

9:19

لأنه إذا استطعت وضع

9:20

قواعد حول أذونات

9:21

الذكاء الاصطناعي،

9:22

واختبارات الأمن

9:23

السيبراني، وطبقات

9:24

الإنفاذ الخارجية،

9:25

مثلاً، فلا يهم التخلي

9:27

عن المزايا التي

9:27

تمتلكها "أنثروبيك" و "

9:29

أوبن إيه آي". كل ما يهم

9:30

هو ألا نبطئ تقدم

9:31

الشركات الأمريكية في

9:33

سباق الذكاء

9:33

الاصطناعي. هذا هو

9:35

الهدف الأسمى للجميع

9:36

بلا استثناء. لكن

9:37

داريو وسام يقومان

9:38

بجولة ترويجية حالياً

9:39

من أجل طرحهما

9:40

للاكتتاب العام. إذًا

9:41

هم يقولون المزيد من

9:42

النبوءات ذاتية

9:44

التحقق، لكن جنسن

9:45

يتدخل مجددًا ليتأكد

9:46

من أنك تستطيع رؤية

9:47

الدخان وسط النيران.

9:49

>> إذًا هل تروج لفكرة أن

9:50

الأوزان المفتوحة هي

9:51

المستقبل؟ هل الأوزان

9:52

المفتوحة هي السبيل

9:53

لتجنب الكثير من هذه

9:54

المشكلات في الأساس؟

9:55

>> سيكون الأمر كذلك

9:56

لأننا سنرى أوزان

9:57

ومعايير كل هذه

9:58

النماذج. سيكون

9:59

بإمكانك في الأساس

10:00

تخصيصها لكل حالة

10:01

استخدام مؤسسية.

10:02

ستتمكن من رؤية كل

10:03

تفاصيلها الدقيقة.

10:04

وهكذا سارت كل ثورة

10:06

تقنية في الواقع. مثل

10:07

البرمجيات وبالأخص

10:09

السحابية، يبدأ

10:10

الجميع بالمصادر

10:11

المفتوحة ثم يبنون

10:12

تطبيقات مُدارة تخدم

10:13

شركاتهم. لكن في الوقت

10:15

الحالي، وبسبب النمو

10:16

الأسي للذكاء

10:17

الاصطناعي، انتقلت

10:18

شركتا أنثروبيك وأوبن

10:19

إيه آي من صفر إيرادات

10:21

إلى مائة مليار دولار

10:22

في عامين فقط. لم يحدث

10:24

هذا قط من قبل في أي

10:26

ثورة سابقة. لذا أعتقد

10:28

أن الأمور تحدث بسرعة

10:30

كبيرة وهناك نوع من "

10:31

معضلة السجين" حيث لا

10:33

يهتمون بالقدر الكافي

10:35

بما هو جيد للذكاء

10:37

الاصطناعي وما هو ليس

10:39

كذلك. وأنا أؤمن حقًا

10:41

بأن المصادر المفتوحة

10:42

هي الحل، وأنت ترى

10:43

التقدم المحرز في هذا

10:44

المجال بالفعل هذا

10:45

العام.

Interactive Summary

Ask follow-up questions or revisit key timestamps.

يناقش هذا الفيديو التحديات المتعلقة بتنظيم الذكاء الاصطناعي، مع التركيز على صعوبة وضع حواجز أمان لهذه التقنية المتطورة بسرعة. يستعرض المتحدثون أدوار الحكومة الأمريكية، والشركات الرائدة مثل إنفيديا، ومسألة التوازن بين الابتكار والمخاطر الأمنية، مع الإشارة إلى أهمية المصادر المفتوحة كحل محتمل لتحقيق مزيد من الشفافية والأمان.