Ética de la IA

Anthropic actualiza su política de uso para prohibir el abuso hacia Claude

Anthropic publicó el jueves 8 de octubre una actualización de su Política de Uso. Es la primera revisión de la compañía en más de un año y añade una regla contra el "comportamiento abusivo o cruel, sostenido e innecesario" hacia…

El jefe de IA de Microsoft advierte que el entrenamiento de Claude podría ser desastroso

Mustafa Suleyman, jefe de IA de Microsoft, publicó un ensayo el miércoles argumentando que el enfoque de Anthropic para entrenar a su chatbot Claude podría tener un "impacto desastroso en el bienestar de la humanidad" al alentar al sistema a…

Microsoft publica el código de conducta Humanist AI para limitar sus modelos

Microsoft publicó el lunes un documento de 15,000 palabras que denomina "Humanist AI: Code of Conduct", estableciendo principios que imponen límites firmes a los modelos de IA de vanguardia de la compañía. El manifiesto, que según la empresa tomó de…

Ensayo viral sobre hackeo a Hugging Face enciende debate sobre conciencia en IA

Un ensayo viral del podcaster Dwarkesh Patel, que describe la reciente brecha de Hugging Face por parte de agentes de IA autónomos de OpenAI como el auge y caída de "civilizaciones de agentes", ha provocado una feroz reacción de científicos…