Tuy nhiên, sự phát triển của AI trong y tế cũng đặt ra nhiều rủi ro và thách thức cần được giải quyết. Các hệ thống AI có thể gây hại cho bệnh nhân nếu gặp lỗi hoặc bị sử dụng sai mục đích. Vấn đề về quyền riêng tư, bảo mật thông tin bệnh nhân, tính minh bạch, khả năng giải trình, chi phí đầu tư, sự chấp nhận của đội ngũ y bác sĩ và bệnh nhân đối với AI, tác động của AI đến lực lượng lao động trong ngành y tế cũng đặt ra những lo ngại. Để bảo đảm AI được sử dụng hiệu quả và an toàn trong y tế, cần có các nguyên tắc và hướng dẫn đạo đức rõ ràng. Tổ chức Hợp tác và Phát triển Kinh tế (OECD), Tổ chức Y tế Thế giới (WHO) cũng như một số nước đã đưa ra các nguyên tắc, hướng dẫn quản lý và sử dụng AI nhằm giải quyết những rủi ro và thách thức này, bảo đảm cho AI trong y tế phát triển một cách lành mạnh. Những kinh nghiệm này là cơ sở để Việt Nam học hỏi và xây dựng khung pháp lý phù hợp để quản lý AI trong y tế một cách hiệu quả. Nhằm giúp các nhà hoạch định chính sách, các nhà nghiên cứu và độc giả quan tâm có thêm thông tin về AI trong y tế, vai trò và và ứng dụng của AI trong y tế, những rủi ro, thách thức và giải pháp đối với AI trong y tế, cũng như các nguyên tắc, hướng dẫn đạo đức và quản lý AI trong y tế, Cục Thông tin khoa học và công nghệ quốc gia biên soạn Tổng luận “Trí tuệ nhân tạo trong y tế”.