rickycardo1
Miembro de plata
Eliminaban fotos videos de crimenes de web oculta deep web, para que la IA las filtre.
Mophat Okinyi es un activista de derechos humanos, líder laboral y exmoderador de contenido keniano, reconocido por exponer el costo humano oculto detrás del entrenamiento de la IA. Trabajando en Nairobi para la empresa subcontratada Sama, revisó textos de violencia gráfica y abuso para entrenar a ChatGPT. [1, 2, 3, ]
Su Experiencia como Moderador
www-theguardian-com.translate.goog
Las imágenes aparecen en la mente de Mophat Okinyi cuando está solo o cuando está a punto de dormirse.
Okinyi, ex moderador de contenido de ChatGPT de Open AI en Nairobi, Kenia, es una de las cuatro personas que desempeñan ese cargo y que han presentado una petición al gobierno keniano solicitando una investigación sobre lo que describen como condiciones de explotación para los contratistas que revisan el contenido que alimenta los programas de inteligencia artificial.
Un estudio sugiere que ChatGPT es mejor que los estudiantes universitarios para resolver problemas del SAT.
Leer más
“Realmente ha perjudicado mi salud mental”, dijo Okinyi.
El joven de 27 años contó que leía hasta 700 mensajes de texto al día, muchos de ellos con descripciones explícitas de violencia sexual. Recuerda que empezó a evitar a la gente tras leer mensajes sobre violadores y que proyectaba sus propias ideas paranoicas en quienes lo rodeaban. El año pasado, su esposa le dijo que había cambiado y lo dejó. En ese momento estaba embarazada. «Perdí a mi familia», afirmó.
La demanda presentada por los moderadores se refiere a un contrato entre OpenAI y Sama, una empresa de servicios de anotación de datos con sede en California que emplea a moderadores de contenido en todo el mundo. Los moderadores alegan que, mientras trabajaban para Sama en Nairobi en 2021 y 2022 revisando contenido para OpenAI, sufrieron traumas psicológicos, salarios bajos y despidos abruptos.
Según los denunciantes, los 51 moderadores de Nairobi que trabajaban en la cuenta OpenAI de Sama tenían la tarea de revisar textos y algunas imágenes, muchas de las cuales mostraban escenas gráficas de violencia, autolesiones, asesinatos, violaciones, necrofilia, abuso infantil, bestialidad e incesto.
Los moderadores humanos son el costo oculto de la IA. Para entrenar algoritmos y filtrar contenido extremo, miles de trabajadores subcontratados en países como Kenia, Filipinas y Colombia se exponen a diario a material altamente perturbador, desarrollando graves traumas psicológicos. [1, 2, 3]
Impacto en la salud mental
La exposición constante a violencia extrema, abusos y atrocidades altera profundamente el bienestar de los trabajadores: [1, 2]
www.france24.com
El multimillonario Sam Altman, director ejecutivo de OpenAI, es uno de los casos más destacados. El 10 de abril, alguien lanzó un cóctel Molotov contra su domicilio. Las autoridades detuvieron a Daniel Moreno-Gama, de 20 años.
Pero la violencia va más allá de la élite de Silicon Valley. El 6 de abril, la puerta de la residencia de Ron Gibson recibió 13 disparos después de que este concejal de Indianápolis expresara su apoyo a la construcción de un centro de datos.
Los autores del ataque dejaron una nota en la que se leía "No a los centros de datos".
"La ansiedad ante las tecnologías emergentes no es nada nuevo", afirmó la investigadora Nirit Weiss-Blatt, cuyo boletín de Substack "AI Panic" aborda la creciente hostilidad hacia la inteligencia artificial.
"Sin embargo, con la inteligencia artificial, parece más extremo", añadió, y matizó que Moreno-Gama radicalizó sus ideas a través de la "retórica del 'riesgo existencial de la IA' (... ) Necesitamos mantener un debate más amplio sobre cómo esta retórica radicaliza a las personas más vulnerables", dijo Weiss-Blatt.
"El hecho de que algunos extremistas justifiquen los actos violentos es muy preocupante, y debe condenarse con la mayor firmeza posible".
Los ataques contra figuras destacadas de la IA no tienen vínculos demostrables entre sí, ni los responsables de llevarlos a cabo pertenecen a una organización común.
Mophat Okinyi es un activista de derechos humanos, líder laboral y exmoderador de contenido keniano, reconocido por exponer el costo humano oculto detrás del entrenamiento de la IA. Trabajando en Nairobi para la empresa subcontratada Sama, revisó textos de violencia gráfica y abuso para entrenar a ChatGPT. [1, 2, 3, ]
Su Experiencia como Moderador
- La Tarea: Leía y etiquetaba hasta 700 pasajes de texto al día llenos de contenido tóxico (violación, violencia extrema, abuso infantil y zoofilia) para enseñarle a la IA qué contenido bloquear. [1, 2]
- El Impacto: El trabajo carecía de apoyo psicológico adecuado, lo que le provocó graves traumas y problemas de salud mental. [1, 2]
- La Denuncia: Fue una de las voces principales que denunció las condiciones laborales de explotación, lo que llevó a peticiones gubernamentales para investigar estas prácticas. [1, 2]
‘It’s destroyed me completely’: Kenyan moderators decry toll of training of AI models
Employees describe the psychological trauma of reading and viewing graphic content, low pay and abrupt dismissals
Okinyi, ex moderador de contenido de ChatGPT de Open AI en Nairobi, Kenia, es una de las cuatro personas que desempeñan ese cargo y que han presentado una petición al gobierno keniano solicitando una investigación sobre lo que describen como condiciones de explotación para los contratistas que revisan el contenido que alimenta los programas de inteligencia artificial.
Un estudio sugiere que ChatGPT es mejor que los estudiantes universitarios para resolver problemas del SAT.
Leer más
“Realmente ha perjudicado mi salud mental”, dijo Okinyi.
El joven de 27 años contó que leía hasta 700 mensajes de texto al día, muchos de ellos con descripciones explícitas de violencia sexual. Recuerda que empezó a evitar a la gente tras leer mensajes sobre violadores y que proyectaba sus propias ideas paranoicas en quienes lo rodeaban. El año pasado, su esposa le dijo que había cambiado y lo dejó. En ese momento estaba embarazada. «Perdí a mi familia», afirmó.
La demanda presentada por los moderadores se refiere a un contrato entre OpenAI y Sama, una empresa de servicios de anotación de datos con sede en California que emplea a moderadores de contenido en todo el mundo. Los moderadores alegan que, mientras trabajaban para Sama en Nairobi en 2021 y 2022 revisando contenido para OpenAI, sufrieron traumas psicológicos, salarios bajos y despidos abruptos.
Según los denunciantes, los 51 moderadores de Nairobi que trabajaban en la cuenta OpenAI de Sama tenían la tarea de revisar textos y algunas imágenes, muchas de las cuales mostraban escenas gráficas de violencia, autolesiones, asesinatos, violaciones, necrofilia, abuso infantil, bestialidad e incesto.
Los moderadores humanos son el costo oculto de la IA. Para entrenar algoritmos y filtrar contenido extremo, miles de trabajadores subcontratados en países como Kenia, Filipinas y Colombia se exponen a diario a material altamente perturbador, desarrollando graves traumas psicológicos. [1, 2, 3]
Impacto en la salud mentalLa exposición constante a violencia extrema, abusos y atrocidades altera profundamente el bienestar de los trabajadores: [1, 2]
- Trastorno de Estrés Postraumático (TEPT): Los síntomas incluyen insomnio, ansiedad severa y ataques de pánico.
- Trauma Vicario: Es la asimilación del trauma ajeno por observar material gráfico repetidas veces.
- Aislamiento: La naturaleza del trabajo y los acuerdos de confidencialidad (NDAs) obligan a muchos a sufrir en silencio. [1, 2, 3, 4]
Miedo y resentimiento: la violencia contra figuras de la IA
Varios defensores de la inteligencia artificial han sido blanco de actos violentos ejecutados en los últimos días, reflejo de los temores que suscita esta tecnología y del creciente resentimiento del…
www.france24.com
El multimillonario Sam Altman, director ejecutivo de OpenAI, es uno de los casos más destacados. El 10 de abril, alguien lanzó un cóctel Molotov contra su domicilio. Las autoridades detuvieron a Daniel Moreno-Gama, de 20 años.
Pero la violencia va más allá de la élite de Silicon Valley. El 6 de abril, la puerta de la residencia de Ron Gibson recibió 13 disparos después de que este concejal de Indianápolis expresara su apoyo a la construcción de un centro de datos.
Los autores del ataque dejaron una nota en la que se leía "No a los centros de datos".
"La ansiedad ante las tecnologías emergentes no es nada nuevo", afirmó la investigadora Nirit Weiss-Blatt, cuyo boletín de Substack "AI Panic" aborda la creciente hostilidad hacia la inteligencia artificial.
"Sin embargo, con la inteligencia artificial, parece más extremo", añadió, y matizó que Moreno-Gama radicalizó sus ideas a través de la "retórica del 'riesgo existencial de la IA' (... ) Necesitamos mantener un debate más amplio sobre cómo esta retórica radicaliza a las personas más vulnerables", dijo Weiss-Blatt.
"El hecho de que algunos extremistas justifiquen los actos violentos es muy preocupante, y debe condenarse con la mayor firmeza posible".
Los ataques contra figuras destacadas de la IA no tienen vínculos demostrables entre sí, ni los responsables de llevarlos a cabo pertenecen a una organización común.
