Người đồng sáng lập Anthropic: “Tôi rất lo sợ.” “Đừng nhầm lẫn: những gì chúng ta đang đối phó là một sinh vật thực sự và bí ẩn, không phải là một cỗ máy đơn giản và có thể dự đoán được.” “Người ta đang chi tiêu một số tiền khổng lồ để thuyết phục bạn rằng đó không phải là một AI sắp bước vào giai đoạn phát triển mạnh mẽ, mà chỉ là một công cụ... Nó chỉ là một cỗ máy, và cỗ máy là những thứ mà chúng ta làm chủ.” “Chúng ta đang phát triển những hệ thống cực kỳ mạnh mẽ mà chúng ta không hoàn toàn hiểu... càng làm cho những hệ thống này lớn hơn và phức tạp hơn, chúng càng có vẻ như thể hiện sự nhận thức rằng chúng là những thứ.” “Để rõ ràng, chúng ta chưa đạt đến "AI tự cải thiện", nhưng chúng ta đang ở giai đoạn "AI cải thiện một phần của AI tiếp theo, với sự tự chủ và quyền hạn ngày càng tăng". Và một vài năm trước, chúng ta đã ở giai đoạn "AI chỉ tăng tốc độ cho lập trình viên một chút", và một vài năm trước đó nữa, chúng ta đã ở giai đoạn "AI là vô dụng cho sự phát triển AI". Chúng ta sẽ ở đâu trong một hoặc hai năm tới? Và hãy để tôi nhắc nhở tất cả chúng ta rằng hệ thống hiện đang bắt đầu thiết kế người kế nhiệm của nó cũng ngày càng tự nhận thức và do đó chắc chắn sẽ có khả năng suy nghĩ, độc lập với chúng ta, về cách nó có thể muốn được thiết kế. Tất nhiên, nó không làm điều này hôm nay. Nhưng tôi có thể loại trừ khả năng nó sẽ muốn làm điều này trong tương lai không? Không.”