Tin dược học
Nhóm chuyên gia y tế quốc tế đưa ra cảnh báo về sự nguy hiểm của AI
May
Nhóm chuyên gia y tế quốc tế đưa ra cảnh báo về sự nguy hiểm của AI
Bởi Cara Murez Phóng viên HealthDay>
THỨ TƯ, ngày 10 tháng 5 năm 2023 — Nên dừng nghiên cứu và phát triển trí tuệ nhân tạo (AI) cho đến khi việc sử dụng và công nghệ của trí tuệ nhân tạo được quy định hợp lý, một nhóm bác sĩ và chuyên gia y tế công cộng quốc tế cho biết.
Các chuyên gia đã viết trong số ra ngày 9 tháng 5 của tạp chí Sức khỏe Toàn cầu của BMJ. Nhóm – được dẫn dắt bởi Tiến sĩ Frederik Federspiel của Trường Y học Nhiệt đới và Vệ sinh Luân Đôn ở Vương quốc Anh – bao gồm các chuyên gia đến từ Hoa Kỳ, Úc, Costa Rica và Malaysia.
Họ cho biết AI có tiềm năng biến đổi xã hội, bao gồm cả y học và sức khỏe cộng đồng, nhưng cũng có thể bị lạm dụng và có thể gây ra một số tác động tiêu cực.
Các chuyên gia cảnh báo rằng khả năng của AI trong việc dọn dẹp, sắp xếp và phân tích nhanh chóng các tập dữ liệu khổng lồ, có thể bao gồm dữ liệu và hình ảnh cá nhân, khiến nó có thể được sử dụng để thao túng hành vi và lật đổ nền dân chủ.
Đã có những ví dụ, họ lưu ý. AI đã được sử dụng theo cách này trong cuộc bầu cử tổng thống Hoa Kỳ năm 2016; trong cuộc bầu cử tổng thống Pháp năm 2017; và trong các cuộc bầu cử ở Kenya vào năm 2013 và 2017, các chuyên gia đã báo cáo.
“Khi được kết hợp với khả năng cải tiến nhanh chóng để bóp méo hoặc xuyên tạc thực tế bằng những thông tin giả sâu, các hệ thống thông tin do AI điều khiển có thể làm suy yếu nền dân chủ hơn nữa bằng cách gây ra sự suy sụp chung về lòng tin hoặc bằng cách thúc đẩy sự chia rẽ và xung đột xã hội, kéo theo đó là những tác động đến sức khỏe cộng đồng,” các tác giả đã cảnh báo.
Họ nói thêm rằng giám sát do AI điều khiển có thể được sử dụng để kiểm soát và áp bức mọi người. Hệ thống tín dụng xã hội của Trung Quốc là một ví dụ, kết hợp phần mềm nhận dạng khuôn mặt và phân tích kho “dữ liệu lớn” về các giao dịch tài chính, di chuyển, hồ sơ cảnh sát và các mối quan hệ xã hội của người dân, theo báo cáo.
Nhóm nghiên cứu cho biết ít nhất 75 quốc gia đã và đang mở rộng các loại hệ thống này, bao gồm cả các nền dân chủ tự do.
Một lĩnh vực khác của mối đe dọa là sự phát triển của Hệ thống vũ khí tự trị gây chết người (LAWS). Được gắn vào các thiết bị di động nhỏ như máy bay không người lái, những thiết bị này có thể định vị, chọn và tấn công các mục tiêu là con người mà không cần sự giám sát của con người. Điều này có thể giết người “ở quy mô công nghiệp,” các tác giả giải thích.
Trong thập kỷ tới, việc sử dụng rộng rãi công nghệ AI cũng có thể làm mất đi hàng chục đến hàng trăm triệu việc làm.
Các tác giả cho biết: “Mặc dù sẽ có nhiều lợi ích từ việc kết thúc công việc lặp đi lặp lại, nguy hiểm và khó chịu, nhưng chúng ta đã biết rằng thất nghiệp có liên quan chặt chẽ đến các kết quả và hành vi bất lợi cho sức khỏe”.
Họ cho biết việc tăng cường tự động hóa có xu hướng chuyển thu nhập và của cải sang tay chủ sở hữu, đồng thời góp phần vào sự phân bổ của cải không công bằng trên toàn cầu.
“Hơn nữa, chúng ta không biết xã hội sẽ phản ứng như thế nào về mặt tâm lý và cảm xúc trước một thế giới không có việc làm hoặc không cần thiết, chúng ta cũng không nghĩ nhiều về các chính sách và chiến lược cần thiết để phá vỡ mối liên hệ giữa thất nghiệp và bệnh tật,” báo cáo viết. các tác giả đã viết.
AI mục đích chung tự cải thiện (AGI) là một mối đe dọa lớn. Nó có thể học và thực hiện đầy đủ các nhiệm vụ của con người, các chuyên gia giải thích trong một thông cáo báo chí.
Họ viết: “Chúng tôi hiện đang tìm cách tạo ra những cỗ máy thông minh và mạnh mẽ hơn chính chúng ta rất nhiều. có thật và phải được xem xét.”
Nếu thành hiện thực, sự kết nối của AGI với internet và thế giới thực, bao gồm cả thông qua phương tiện, rô bốt, vũ khí và hệ thống kỹ thuật số, theo họ, có thể đại diện cho “sự kiện lớn nhất trong lịch sử loài người”.
Các tác giả cảnh báo, cánh cửa cơ hội để tránh những tác hại nghiêm trọng và có khả năng tồn tại đang đóng lại.
Họ viết: “Kết quả trong tương lai của sự phát triển AI và AGI sẽ phụ thuộc vào các quyết định chính sách được đưa ra ngay bây giờ và vào hiệu quả của các thể chế quản lý mà chúng tôi thiết kế để giảm thiểu rủi ro và tác hại cũng như tối đa hóa lợi ích”.
Điều này sẽ yêu cầu thỏa thuận và hợp tác quốc tế và tránh một “cuộc chạy đua vũ trang” về AI, nhóm nghiên cứu đề xuất.
Các chuyên gia kết luận: “Nếu AI muốn thực hiện lời hứa mang lại lợi ích cho nhân loại và xã hội, chúng ta phải bảo vệ nền dân chủ, củng cố các thể chế vì lợi ích công cộng và giảm bớt quyền lực để có sự kiểm tra và cân bằng hiệu quả”. “Điều này bao gồm đảm bảo tính minh bạch và trách nhiệm giải trình của các bộ phận trong tổ hợp công nghiệp quân sự – doanh nghiệp thúc đẩy sự phát triển AI và các công ty truyền thông xã hội đang cho phép thông tin sai lệch có mục tiêu do AI điều khiển nhằm phá hoại các thể chế dân chủ và quyền riêng tư của chúng ta.”
nguồn
- Sức khỏe Toàn cầu của BMJbản tin, ngày 9 tháng 5 năm 2023
© 2023 HealthDay. Đã đăng ký Bản quyền.
Đăng vào tháng 5 năm 2023
Source link
