El CTO de Ripple desafía la legalidad de la demanda contra Character.AI
Las discusiones recientes en la comunidad tecnológica se han centrado en las acciones legales contra Character.AI, con importantes contribuciones del Director de Tecnología de Ripple, David Schwartz. Según Odaily, Schwartz se ha opuesto públicamente a la demanda, sugiriendo que carece de una base sólida en la ley de EE. UU.
El argumento central: protección de la Primera Enmienda
Schwartz utilizó la plataforma de redes sociales X para compartir sus impresiones sobre el asunto. Especificó que, si bien no aprueba las implicaciones morales en torno a Character.AI, cree que los argumentos legales presentados contra la empresa no tienen fundamento. Un punto central de su argumento es que el contenido expresivo generado por Character.AI está protegido bajo la Primera Enmienda.
Comentó que a menos que el contenido creado por Character.AI pueda clasificarse en categorías definidas de manera restrictiva de discurso no protegido, como la incitación o amenazas directas, entonces permanece constitucionalmente protegido.
Preocupaciones sobre la libertad de expresión
Schwartz destacó además el énfasis de la demanda en la supuesta imprudencia del diseño de la plataforma Character.AI. Dijo: "Cualquier argumento que considere que el discurso protegido es imprudente, peligroso o 'defectuoso' es totalmente incompatible con la libertad de expresión." Esta afirmación establece paralelismos con pánicos morales históricos en relación con los medios emergentes, ilustrando cómo olas anteriores de preocupación giraron en torno a los videojuegos y los cómics.
Schwartz indicó que los desafíos que enfrenta Character.AI ecoan controversias pasadas, reafirmando su creencia de que los esfuerzos por regular la selección de discursos podrían infringir los derechos constitucionales.
La demanda: acusaciones e implicaciones
La denuncia legal, iniciada por la madre de Sewell Setzer III, de 14 años, acusa a Character.AI de graves acusaciones, incluyendo negligencia, muerte injusta, prácticas comerciales engañosas y responsabilidad por productos. La demanda sostiene que la plataforma es "excesivamente peligrosa" y está insuficientemente equipada con medidas de seguridad, a pesar de su comercialización hacia menores.
Las figuras notables que enfrentan la demanda incluyen a los fundadores de Character.AI, Noam Shazeer y Daniel De Freitas, así como a ejecutivos de Google, la empresa que adquirió Character.AI en agosto.
Afirmaciones de psicoterapia no autorizada
El abogado de la demandante afirma que los personajes de IA y los chatbots de la plataforma realizaron lo que se describe como "psicoterapia no autorizada", contribuyendo a las circunstancias trágicas que rodearon la muerte de Setzer. En respuesta a estas afirmaciones, Character.AI ha actualizado proactivamente sus protocolos de seguridad. Estas mejoras incluyen nuevos filtros de contenido basados en la edad y mejores métodos de detección para interacciones de usuarios dañinas.
Conclusión
La batalla legal en curso que involucra a Character.AI resalta problemas significativos sobre la intersección de la tecnología, el discurso y la ley. Con defensores como David Schwartz vocalizando su apoyo a las protecciones de la libertad de expresión, el resultado de esta demanda podría establecer un precedente clave en la regulación de la IA y las responsabilidades de las empresas tecnológicas hacia los usuarios vulnerables.
Dejar un comentario
Todos los comentarios se revisan antes de su publicación.
Este sitio está protegido por hCaptcha y se aplican la Política de privacidad de hCaptcha y los Términos del servicio.