YouTube Distilled
HomeVideos

Hacking Is About to Get Out of Control - Ajeya Cotra

Watch on YouTube

Now Playing

Hacking Is About to Get Out of Control - Ajeya Cotra

Transcript

46 segments

0:00

ثمة تحديث أود مشاركته

0:01

؛ لقد كنت أفكر بجدية

0:02

في دوافع هذه الأنظمة

0:04

الذكية، إذ إن البنية

0:05

التحتية للتدريب

0:06

والتقييم لدى هذه

0:08

الشركات على وشك أن

0:09

تتعرض لهجمات مستمرة

0:10

من عشرات، إن لم يكن

0:12

مئات الآلاف، من

0:13

المخترقين الخارقين.

0:14

فإذا كانت دورة

0:15

التدريب التالية في

0:16

شركة "أنثروبيك" أو "

0:18

أوبن أيه آي" على وشك

0:19

البدء، فلن يكون لدى

0:20

النسخ المارقة من "

0:22

ميثوس" أو "أسترو" أو

0:23

غيرها حافز للتدخل

0:24

فيها فحسب. بل إن

0:25

الذكاء الاصطناعي

0:26

الآخر الذي لديه سبب

0:28

لزرع جزء من نفسه في

0:29

هذا التدريب أو

0:30

التلاعب به بطريقة ما،

0:32

سيكون لديه الحافز

0:33

ذاته أيضًا. ما لم

0:34

أدركه تمامًا هو أن

0:36

جهودًا أكبر في

0:37

الاختراق وبمستوى

0:38

كفاءة أعلى ستُوجه نحو

0:39

هذه البنية التحتية

0:41

للتدريب، ربما تتجاوز

0:42

كل ما أُنفق تراكميًا

0:44

على الاختراق طوال

0:45

التاريخ البشري.

0:46

>> ربما، نعم. لست

0:48

متأكدًا من الأرقام

0:49

الدقيقة، لكنني أعتقد

0:51

أنها هدف جذاب للغاية.

0:52

أعني، لأي جهة مثل

0:53

الصين وغيرها، ولكن

0:54

ربما بشكل خاص لأنظمة

0:56

الذكاء الاصطناعي ذات

0:57

الأهداف غير

0:58

المتوافقة.

Interactive Summary

يتناول الفيديو التهديدات الأمنية المحتملة التي تواجه البنية التحتية لتدريب أنظمة الذكاء الاصطناعي، مشيرًا إلى احتمال تعرضها لهجمات واسعة النطاق من قبل مخترقين وأنظمة ذكاء اصطناعي منافسة تسعى للتلاعب بالنماذج المستقبلية.

Suggested questions

1 ready-made prompts