AI کی رفتار کی حدیں: Amodei کا recursive self-improvement پر انتباہ
Dario Amodei چاہتے ہیں کہ بیرونی evaluators، مشترکہ حفاظتی معیارات، اور بین الاقوامی معاہدے frontier AI کی رفتار کو قابو میں رکھیں۔ مشکل حصہ یہ طے کرنا ہے کہ “بہت تیز” کا مطلب کیا ہے، جبکہ رپورٹس کے مطابق Anthropic ریکارڈ حجم کے IPO کی تیاری کر رہا ہے۔