Ethical Risks and Safeguards in Generative AI: Managing Impacts on Cognition and Decision-Making
Year: 2025
Type: article
Abstract: This study concentrates on the double-edged nature of AI as an innovation enabler and a source of ethical issues such as hallucinations, disinformation, and output variability and brittleness of large language models (LLMs) to prompts and context. As AI increasingly informs human decision-making and can amplify existing cognitive biases, it also provides the opportunity for improvement. The paper calls for a firm moral foundation for the development of AI to guide innovation toward societal values. Proper use of AI requires developers, researchers, policymakers, and end-users to work together. Ongoing end-user engagement and training are essential in managing risks as well as establishing the best practices. Legal frameworks will be needed to keep up with the faster growth of AI. Openness, ethics, and transparency must be given priority to usher in human development and ensure that AI drives innovation according to ethical principles. Résumé : Cet article explore la double nature de l'intelligence artificielle (IA), qui peut être à la fois source de défis éthiques majeurs et catalyseur d'innovation. Parmi les principales préoccupations figurent les hallucinations causées par l'IA, la désinformation et la variabilité des sorties et la fragilité contextuelle des grands modèles de langage (LLM). Bien que l'IA informe de plus en plus la prise de décision humaine et puisse amplifier les biais existants, elle représente également un potentiel de progrès considérable. L'étude souligne la nécessité d'un cadre éthique solide pour guider le développement de l'IA tout en conciliant innovation et valeurs sociales. Pour une utilisation responsable, la coopération interdisciplinaire entre chercheurs, développeurs, décideurs politiques et utilisateurs est cruciale. Pour réduire les risques et diffuser les bonnes pratiques, le partage d'expériences utilisateurs, l'implication active et la formation continue sont essentiels. De plus, les cadres juridiques et réglementaires doivent évoluer au rythme des avancées technologiques. En favorisant transparence, éthique et dialogue, l’IA peut contribuer positivement au progrès humain tout en respectant les valeurs d’éthiques
Language: French
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7161096785
