Úc: Tăng ngân sách cho Trung tâm AI Quốc gia để bảo vệ chống lại AI có rủi ro cao
Cơ quan này đặt mục tiêu tiêu chuẩn hóa các hạn chế đối với AI để giảm thiểu những tác nhân bất chính đe dọa an ninh quốc gia.
Ngân sách liên bang Úc ngày 14/05/2024 đã phân bổ gói tài trợ trị giá 39 triệu AUD (26 triệu USD), theo kế hoạch Future Made in Australia, để bảo vệ trước những rủi ro của công nghệ AI trên toàn bộ hoạt động kinh doanh và cơ sở hạ tầng của Úc khi công cụ này trở nên đáng chú ý hơn trong xã hội thường nhật, ngày càng đặt các chính phủ vào tình thế rủi ro về an ninh quốc gia.
Sự chú ý của chính phủ Úc trong hai năm qua đã tập trung vào tiềm năng của AI trong lĩnh vực công nghệ. Úc cũng dành 102 triệu AUD trong ngân sách năm 2023-2024 cho việc tích hợp lượng tử và áp dụng công nghệ AI.
Hơn 21 triệu AUD cũng được dành để chuyển đổi và mở rộng Trung tâm AI Quốc gia, chuyển từ Tổ chức nghiên cứu khoa học và công nghiệp khối thịnh vượng chung Úc (CSIRO) sang Bộ Công nghiệp, Khoa học, và Tài nguyên Úc (DISR).
Khoản tiền ngân sách này cũng sẽ giúp nhóm cố vấn AI Quốc gia có thể tiếp tục hoạt động trong 4 năm tới. Sau một cuộc đánh giá các biện pháp an toàn, nhóm này đã được chỉ định và được đại diện bởi 12 chuyên gia hoạt động dưới danh sách vốn đầu tư của DISR.
Nhóm có nhiệm vụ xác định việc sử dụng AI có rủi ro cao và đưa ra khuyến nghị về việc thực hiện các biện pháp hạn chế rủi ro.
Các tiêu chuẩn mới cũng sẽ được phát triển cho việc đánh dấu AI, trong đó đề cập đến việc nhúng một tín hiệu duy nhất vào đầu ra của mô hình trí tuệ nhân tạo để xác định đó là do AI tạo ra, giúp cải thiện tính minh bạch của người sáng tạo.
Khoảng 15 triệu AUD đã được dành để mở khóa các hạn chế rui ro đối với việc sử dụng AI trong các lĩnh vực như chăm sóc sức khỏe, luật tiêu dùng, và các vấn đề bản quyền.
Trong khi đó, ngân sách cho việc chống lại các rủi ro an ninh quốc gia do AI gây ra đã tăng thêm 2.6 triệu AUD trong ba năm.
Phó chủ tịch AVEVA Pacific Alexey Lebedev nói với AAP rằng ngành công nghệ này cần các quy tắc do Trung tâm AI Quốc gia đặt ra để trở nên tin cậy.
Ông nói: “Trị giá của các công nghệ kỹ thuật số, bao gồm cả AI, có thể lên đến 315 tỷ AUD trong nền kinh tế Úc vào năm 2028. Ngân sách của Úc có thể đưa ra định hướng rõ ràng và chắc chắn về AI, đồng thời giúp củng cố một ngành ở đây.”
Tính an toàn trong bối cảnh tăng trưởng nhanh chóng
Trí tuệ nhân tạo (AI) có tiềm năng cách mạng hóa các ngành công nghiệp và nâng cao tính hiệu quả. Tuy nhiên, tiềm năng này đi kèm với nhu cầu bảo vệ các rủi ro liên quan đến AI.
Trong thông báo ngân sách được công bố của mình, DSIR cho biết cam kết tài trợ là để chống lại AI có thể “gây hại mà không có quy định phù hợp để bảo đảm việc sử dụng AI là an toàn và có trách nhiệm, bảo mật, công bằng, dễ tiếp cận, và không phân biệt đối xử. ”
Bắt kịp xu hướng toàn cầu, AI ở Úc đã và đang có sự tăng trưởng ổn định trong các lĩnh vực quan trọng như y tế, trong đó sử dụng AI để cải thiện việc chăm sóc bệnh nhân, chẩn đoán, và lập kế hoạch điều trị.
Trong lĩnh vực tài chính, AI được sử dụng để phát hiện gian lận, quản lý rủi ro và dịch vụ khách hàng. Chatbots cũng đang trở nên phổ biến hơn trong ngành ngân hàng và bảo hiểm.
Các ứng dụng của AI cho nông nghiệp bao gồm canh tác chính xác, giám sát cây trồng, và phân tích dự đoán. AI có thể giúp nông dân đưa ra quyết định dựa trên dữ liệu để cải thiện năng suất cây trồng và giảm lượng chất thải.
Trong lĩnh vực quốc phòng, AI được sử dụng để phát hiện mối đe dọa, giám sát, và ra quyết định chiến lược.
Các nhà phát triển AI phải minh bạch về cách thức hoạt động của thuật toán và cách AI đưa ra quyết định. Họ cũng phải bảo đảm rằng các thuật toán của họ công bằng, không thiên vị và không phân biệt đối xử với bất kỳ nhóm người nào.
Minh Đức biên dịch
Quý vị tham khảo bản gốc từ The Epoch Times
