Estamos a punto de hablar del que ha sido llamado «el experimento mental más aterrador de todos los tiempos», así que comencemos con una historia de amor.
El pasado lunes en la tarde el multimillonario Elon Musk, creador de los autos eléctricos Tesla y de los cohetes espaciales SpaceX publicó un tuit que en español decía «Basilisco de Rococó», una variación del término «Basilisco de Roko», del que hablaremos más adelante.
Esa misma noche, Musk llegó a la gala del Met, un evento de moda que cada año reúne a celebridades en Nueva York, acompañado de la cantante canadiense Grimes, lo que para muchos fue la confirmación de que ambos están saliendo.
Según el portal Page Six, días antes de publicar su tuit, Musk se dio cuenta de que en un videoclip de 2015, Grimes ya había usado el personaje «Basilisco de Rococó» como una referencia al «Basilisco de Roko«.
De acuerdo con el portal neoyorquino, al notar la coincidencia, Musk contactó a Grimes y ese fue el inicio de la amistad entre ambos.
«Grimes dijo que era la primera vez en tres años que alguien entendía el chiste», dice una fuente citada por Page Six.
Pero, ¿qué es el Basilisco de Roko y por qué llama la atención de Musk y Grimes?
Una máquina fuera de control
El Basilisco de Roko es un juego mental que se dio a conocer en 2010, cuando el usuario Roko escribió acerca de él en Less Wrong, un foro en línea dedicado a temas de filosofía y psicología con una visión futurista.
De manera general, el experimento plantea un escenario hipotético en el que el ser humano crea una poderosa máquina de inteligencia artificial, con el fin de que trabaje en busca del bienestar para toda la humanidad.
Hasta ahí todo bien.
El problema surge cuando la máquina, que está programada para hacer el máximo bien posible, se da cuenta de que por más que se esfuerce, cualquiera de sus buenas acciones podría ser aún mejor. Esa lógica de buscar infinitamente el bien, hace que la máquina, que solo sabe hacer el bien y aprende la manera de hacerlo cada vez mejor, entre en un bucle que la lleva a una decisión extrema, al menos desde el punto de vista de la moral humana.
La máquina se da cuenta de que para hacer un mayor bien debería haber existido desde mucho antes, para poder ayudar a las personas que sufrían antes de que ella existiera. Así, en su desespero por hacer el bien, la máquina comienza a comportarse como un basilisco que mata a todas las personas que no trabajaron para haberla creado antes, pues eso le impide seguir aumentando su nivel de bondad.
La parte más aterradora es que quien se entera de la existencia del basilisco y no comienza a trabajar en su creación, inmediatamente se convierte en una de sus víctimas potenciales. Por esa razón, el escritor David Auerbach llamó al Basilisco de Roko «el experimento mental más aterrador de todos los tiempos».
El periodista Dylan Love lo explica muy bien en un artículo en Business Insider:
«Más te vale que ayudes a los robots a hacer del mundo un lugar mejor, porque si los robots descubren que no ayudaste a hacer del mundo un lugar mejor, te matarán por impedirles que hagan del mundo un lugar mejor. Al impedirles que hagan del mundo un lugar mejor, ¡estás impidiendo que el mundo se convierta en un lugar mejor!».
Elon Musk, uno de los visionarios líderes en impulsar la inteligencia artificial, ha dicho que esta tecnología podría ser incluso más peligrosa que las armas nucleares. Además, Musk es cofundador de OpenAI, una compañía dedicada a la investigación para «descubrir y promulgar el camino para una inteligencia artificial segura».
Por su parte, en una entrevista con el portal Fuse, Grimes decribió a su personaje de Basilisco Rococó como alguien que está «eternamente destinado a ser torturado por la inteligencia artificial». Así pues, irónicamente la amistad de Musk y Grimes parece estar unida por un ejercicio mental apocalíptico.
Tomado literalmente de BBC.com, el 14 de Mayo de 2018.
Referencias propias.
¿Cualquier parecido con las IAs de películas como Terminator (Skynet) y Resident Evil (La Reina Roja) son pura coincidencia? La verdad es que lo dudo, cuando uno encuentra este tipo de experimentos y le pone algo de sentido común, se da cuenta que las películas de ciencia ficción son más cercanas a la realidad de lo que uno cree y que alguien más estuvo pensando en otras «posibilidades».
¿Qué opinas sobre la posible evolución de la IA de tal manera que considere que somos un riesgo para nosotros mismos?
Comentarios
134 respuestas a «El Basilisco de Roko»
POSIBLE REALIDAD
Al ver la historia de la humanidad el cual en su mayoría ha sido trascurrida por guerras influirían en una IA a tomar decisiones de «yo seré el guía de la humanidad», ya que pensara en un constante observatorio hacia los cuales esta protegiendo llegando al punto de asesinar a los que se impongan en su búsqueda de la cuna de la humanidad, de la misma manera esta IA tendría la facilidad de acceder a todos los datos de la humanidad incluyendo las armas nucleares debido a que todo esta basado en tecnología con acceso a Internet burlando la seguridad implementada ya que la IA aprenderá de si misma, provocando esto tener una extrema precaución de la creación de IA y del uso que se les darán utilizándolas mas de consejeras que de toma de decisiones para el beneficio de la humanidad.
SOMOS NUESTRO PROPIO MAL
Si bien esta noticia nos puede dejar precavidos y con cierto miedo acerca de lo que puede pasar en el futuro, se puede resaltar algo y es que es increíble llegar a un punto en nuestra tecnología y desarrollo científico que no nos haga ver tan lejos panoramas como estos, es decir, ¿pensar que podemos llegar a crear algo tan inteligente que llegue a la conclusión que somos nosotros el problema? Años atrás no se pudiera siquiera considerar que algo que no fuera vivo pensara.
Ya centrándonos en lo que a esta noticia concierne, puede que nos encontremos más cerca de lo que pensamos de tener consecuencias catastróficas que comprometan nuestro futuro; y para tener más que pensar, sería algo creado por nuestras propias manos como especie, nada de consecuencias naturales o hechos extraordinarios. Sólo basta con pensar en armas como las bombas nucleares y ahora temáticas como la anterior para caer en cuenta de lo que podemos provocar.
Ya son bien conocidos las distintas posiciones acerca de la IA, acerca de sus peligros, alcances y metas. Uno de ellos entre dos personas muy influyentes en los campos de la computación: Ello se dio entre Elon Musk y Mark Zuckerberg.
Ahora bien, la tecnología no es el problema sino es lo que nosotros podamos llegar a hacer con ello. Sería algo así como un cuchillo donde, de ser bien usado puede ayudar a cocinar; de la misma manera que mal usado, puede generar un riesgo físico para muchas personas. De la misma manera la computación y (dada la noticia) la Inteligencia Artificial: con las precauciones adecuadas puede ser toda una salvación sin embargo, y con un mal manejo dado, puede representar no sólo un perjuicio a la información de las personas, sino también panoramas «post-apocalípticos» como los ilustrados en el presente artículo.
¿QUE HAY QUE LIMITAR?
En todo lo que llevamos de semestre, he reiterado mi opinión sobre la preocupación que todos debemos tener con respecto a la evolución de la tecnología. Claramente esta no ha proporcionado una facilidad y calidad de vida lo cual nos lleva a creer que siempre sera así, pero la realidad es que las IA están evolucionando cada vez mas gracias a nosotros, están tomando poco a poco consciencia y eso debería ser considerado un arma de doble filo. Tomemos una situación donde la IA llegue a tener la capacidad de razonamiento que nos caracteriza, pero eso no significa que lleguen a tener nuestra moral y ética, ¿es seguro permitir que esa situación se presente sabiendo que nuestro razonamiento se limita con las cosas que la IA, posiblemente, no tenga? Ahora bien, ¿se debería limitar la evolución que esta teniendo la tecnología o se debería limitar el uso que le hacemos a la tecnología? de cierta manera, la opción que se elija afectara a la otra, entonces ¿no deberíamos estar preocupados? Si Zuckerberg y Gates estan preocupados, creo que todos deberíamos estarlo.
https://www.elespectador.com/tecnologia/hay-limitar-inteligencia-artificial-maquinas-articulo-574056
*nos ha proporcionado
LA INDEPENDENCIA DE LAS IA
Sabemos que los conocimientos humanos sobre michos temas están muy limitado y si se desea saber sobre algo muy general lo más probable es que reunir a una cierta cantidad de personas que se especialicen sobre una parte que pequeña de ese gran tema y de esa forma ponerlos a trabajar en equipo para se complementen, ahora imaginar a una IA que nos supere en todos los temas posibles, entonces en ese punto quien depende de quién, Ahora siendo un poco realistas si una IA llegara a adquirir tanto conocimiento creo que sabría que la humanidad está dañada y que los humanos por genética somos destructores y no nos importa pasar por encima de nadie antes que nuestro interés personal, se daría cuenta de lo que le hemos hecho a este lindo planeta y de seguro vería como nos matamos por ideologías absurdas y es que en realidad le tememos a algo que no ha llegado a este mundo aun pero no le tememos a lo que la humanidad le hace a este mundo y nos da miedo perder el control de algo que ni es de nosotros.
TODOS LOS EXTREMOS SON MALOS
La vida misma nos ha demostrado que a cualquier extremo que se llegue puede ser perjudicial y acabar muy mal, es por eso que la evolución de la inteligencia artificial es buena siempre y cuando se mantenga entre unos límites y pueda ser controlada.
Grandes conocedores del tema como mencionas Zuckerberg y Bill Gates saben el poder que pueden llegar a tener estas tecnologías, y es que todos los días salen noticias sobre avances tecnológicos, y no todos estos avances se investigan si eticamente son buenos para la sociedad.
Es por eso que se deben tomar medidas de seguridad, se debe tener en cuenta la ética en la toma de decisiones de la inteligencia artificial, así mismo la posibilidad de poder controlarlo cuando algo sale mal, y tener planes de emergencia si se llegara a salir de control.
si la IA nos ha dado varias facilidades y nos da menos cosas por preocuparnos dia a dia solo que la dependencia a ella cada vez es mas alta y el ser humano siempre quiere mas y aunque traten de limitar la IA para que no nos remplace en el momento de tomar decisiones y realizar cosas a voluntad creo que en algún momento la IA tomara decisiones frente a nosotros ya que la tecnología nunca se detiene y también hay varios genios que no paran de intentar cosas nuevas.
CUANDO LA REALIDAD SUPERA LA FICCIÓN
Existen diversos debates acerca del poder que como humanos le hemos entregado a la tecnología, actualmente el 85% de la población humana utiliza o ha utilizado un artefacto tecnológico para realizar actividades en las que antes no era necesario usarlos, así mismo diariamente aumenta el número de personas que poseen un dispositivo móvil con conexión a internet.
Adicionalmente, se desarrollan cada ve proyectos mucho más avanzados y que hace 10 años solo eran parte de una película futurista; estos avances están relacionados en conocer y replicar cada vez más el pensamiento del ser humano para lograr optimizar procesos que este realiza cotidianamente.
Desde que en la década de 1950 Alan Turing realizó un proyecto para verificar si una máquina lograba responder como un ser humano al menos el 50% de una serie de preguntas que se formulaban, la inteligencia artificial ha tomado un papel muy importante dentro del campo del desarrollo de software y de tecnologías, tanto que se estima que para el año 2030 las máquinas tendrán un mayor en cuanto a procesamiento que el cerebro humano.
¿Representa esto el inicio de la era en la que los robots controlen el mundo que conocemos?, esta es una de las mayores preocupaciones dentro de este sector; la posibilidad de que en cierto modo los robots “cobren vida propia”, y la tecnología con la que fueron programados se ve tergiversada contra el ser humano es algo a lo que debe ponérsele cuidado.
Pero ¿Realmente podrán las máquinas reemplazarnos a los humanos?, Según Andrew Ng, En la actualidad “El escenario más alarmante es que en algún momento la inteligencia artificial se torne malvada. Sin embargo, aunque los sistemas de inteligencia artificial son impresionantes, por ahora sólo pueden realizar tareas muy específicas. Es decir, que una «mente» de este tipo sea capaz de burlar a sus creadores humanos sigue siendo una perspectiva lejana e incierta”. Cosa en la que estoy de acuerdo, en la actualidad los proyectos creados son muy inmaduros para tener una mente propia que se vuelva en contra del ser humano.
Sin embargo, la velocidad en la que se desarrollan nuevos proyectos, y la perspicacia de las nuevas generaciones en crear nuevas cosas y tener menos actividades vuelve preocupante el panorama y, el ser humano debe buscar alternativas para que nunca llegue el momento en que la realidad supere la ficción.
FUENTES:
https://www.infobae.com/salud/ciencia/2016/07/01/como-afectara-la-inteligencia-artificial-a-la-sociedad/
http://www.elnuevoherald.com/noticias/tecnologia/article197719359.html
https://www.muyinteresante.es/tecnologia/articulo/ventajas-y-riesgos-de-la-inteligencia-artificial-651449483429
LA DEPENDENCIA TECNOLÓGICA: IMPACTO FUTURO EN LA SOCIEDAD
Comparto tu punto de vista y adicionalmente opino que la creciente relación que tenemos con la tecnología está promoviendo a que día a día seamos más dependientes a ella, por lo que la visión futurista del Basilisco de Roko puede que llegue a cumplirse, dado que los últimos años nuestros comportamientos se han transformado, pues es indudable que un porcentaje importante de nuestro tiempo lo dedicamos a navegar por Internet. Esto que puede suponer para las empresas pérdidas millonarias a causa del número de horas que se pierden, supone un número de horas en los adolescentes muy superior a las que dedican al estudio, a las relaciones interpersonales o al deporte.
Adicionalmente, vale la pena mencionar que no siempre depender de la ciencia y tecnología permitirá una evolución beneficiosa, ya que en diversas ocasiones se ha logrado identificar que en ciertos momentos se pierde el rumbo de lo que verdaderamente se busca lograr y de allí nacen problemáticas mundiales que generan discordia entre sociedades o gobiernos.
comparto tu punto de vista Pero sé que hoy en día la Inteligencia artificial está dando sus primeros pasos y no está tan madura, es importante mencionar que así mismo se ha creado tecnología la cual destruye al hombre. No es tan descabellado llegar a pensar que la Inteligencia artificial o las máquinas puedan destruir lo que hoy conocemos, como vida y tranquilidad.
También se han visto casos que la ciencia ficción supera la realidad en muchos casos como en el caso de ya estar dando los primeros pasos para poder leer la mente.
Basilisco de Roko: Escenario poco probable
Desde sus inicios la inteligencia artificial ha generado gran controversia dado que su objeto es desarrollar métodos con los cuales imitar los comportamientos, emociones y el razonamiento humano.
Si bien es posible que en algún momento sistemas con mecanismos desarrollados con IA, lleguen a controlar nuestras vidas y acciones, considero que la teoría del basilisco de roco no es un escenario muy probable; pues por más de que existen maquinas capaces de reconocer emociones a través de análisis de patrones faciales, de voz, frecuencia ritmo cardiaco, respiratorio. etc, y tomar decisiones “acertadas” en diversos contextos, estas no podrán imitar a la perfección al ser humano, es decir, no podrá desarrollar facultades como autonomía sobre sus sentimientos, que le permitan sentir emociones como el amor, odio o venganza. En sí, desarrollos como el reconocimiento de emociones y sensaciones, se enfocan más en que dichas herramientas (robots, chatbots…) mejoren la interacción con sus usuarios, permitiendoles ofrecer interfaces agradables en los diferentes entornos de aplicación.
Referencia: http://www.it.uc3m.es/jvillena/irc/practicas/estudios/Emocion.pdf
No podemos perder nuestra Humanidad
Es discutible pensar que una maquina pueda llegar a experimentar sentimientos, ellas no pueden sentir, son programas, pero definitivamente considero que pueden llegar a comprender a la perfección como influyen nuestros sentimientos en la toma de decisiones en nuestra vida cotidiana, por ejemplo el estado de ánimo influye demasiado en el comienzo de un día para cualquier persona y esto influye directa o indirectamente en como afrontamos problemas en el día a día. La toma de decisiones que se basa en pura lógica pueden llegar ser perversas pero indiscutiblemente correctas en muchos casos, cuestiones morales se presentaría.
En las películas de ciencia ficción siempre nos han mostrado escenarios poco probables, pero en los últimos años nos hemos dado cuenta que hay cosas que no son tan ficticios y que, si se pueden realizar, pero esta teoría es un poco rara vista a los ojos de la actualidad, pero recordemos que hace unos 15 años veíamos imposible el hecho de tener celulares que reconocieran nuestra huya dactilar o nuestro rostro o quien imaginaba que se llegaría a tanta evolución electrónica en menos de 15 años, quizás esta teoría no están loca ya que hemos visto como grandes iniciativa de varios proyectos que prometen mucho pero que hace falta concretar más investigaciones para llegar a su objetivo además debemos pensar que todo a lo que se ha llegado a sido con el fin de mejorar la calidad de vida de la humanidad y hacer más amable nuestro paso por la tierra, pero también tenemos que tener en cuenta que las grandes compañías son muy ambiciosas y que al parecer nunca se detendrán en temas tecnológicos y son capaces de lo que sea por mantener ese ritmo, además la competitividad que se maneja actualmente entre diferentes marcas de tecnología es agobiante y esto de alguna forma incentiva a que cada vez este investigando en nuevos campos tecnológicos hasta el punto que perdamos el control sobre aquello que se creó con el fin de mejorar nuestra calidad de vida.
IMPOSIBLE: InMinentemente POSIBLE
Concuerdo completamente: cada vez más, cosas que sólo nos parecían un sueño o una ilusión hoy llegan a ser tan comunes que pareciera que han existido desde siempre: volar, realidad virtual, realidad aumentada…
Y más aún, la tecnología avanza a pasos tan agigantados que hoy hay un invento, mañana se presenta la evolución del mismo. Es espectacular la pasión que el hombre tiene por llegar a conocer a fondo las cosas y su esfuerzo por ayudar a una vida mejor.
Por eso, no nos debemos quedar atrás y buscar mejorar nuestros conocimientos en cualquier tema. Nuestra carrera no es estática y aburrida, sino que nos exige esfuerzo, dedicación y pasión por lo que hacemos. Llegar a tal punto de convertir la definición de imposible en algo inminentemente posible.
Tuvimos el mundo a nuestros pies
Nuestra sociedad siempre se ha sentido de cierta manera identificada con todas las películas de ciencia ficción que se han venido proyectando en las últimas décadas, nos han influenciado, pero siempre ha quedado esa idea de que el ser humano es el verdadero problema en el mundo, crear una máquina que sea capaz de analizar y tomar las decisiones correctas para mantener la existencia de nuestra especie los ha llevado a la conclusión de que nuestra propia conducta debe ser controlada. ¿Debemos ser controlados? No es fácil pensar que una maquina sea capaz de llegar a tan monstruosa conclusión, sin embargo analizando nuestro panorama actual parece ser que aún estamos lejos de que se presente tal hecho, pero en ocasiones en creíble debido a los acontecimientos de los últimos tiempos (Guerras, esclavitud, holocaustos) en fin, parece ser una idea lógica pero temible en realidad.
Afortunadamente podemos discutir estos acontecimientos desde ahora, ¿Qué se necesita para una evolución adecuada de la IA?
PREPARACIÓN DE UN BUEN FUTURO
Sin duda alguna estoy de acuerdo con lo mencionado en el comentario anterior: los escenarios mencionados anteriormente son tan caóticos y apocalípticos que pareciera que para llegar allá hemos de tocar fondo… uno muy profundo.
A pesar de ello, la frase: «nunca digas nunca» puede aplicarse a este momento.
No es IMPOSIBLE que una creación se nos descarrile y obre de manera incorrecta o contraria a nuestros planes iniciales, sin embargo, la humanidad tiene algo de humanidad (valga la redundancia) para prever eso o luchar juntos contra eso.
Lo importante aquí es vivir lo que ocurre en el presente:Todavía estas tecnologías están a nuestro control y manejo… Hemos de tener todos esos casos malos y simplemente caminar hacia donde es. Prepararnos para un buen futuro.
“¿Debemos ser controlados?”
Pese a que las conductas del ser humano en la mayoría de contextos buscan meramente el beneficio personal, lo cual conlleva consecuencias aterradoras, este proceso es parte del aprendizaje que motiva a que poco a poco tomemos consciencia de nuestros actos, la repercusión que estos tienen, así como emplear nuestros esfuerzos en tratar de reivindicar las acciones.
Si bien cabe la posibilidad de creación de una máquina que nos controle para “mantener nuestra existencia”, debemos tener en cuenta que esta no sería la solución a nuestros problemas, debido a que a pesar de tomar decisiones con un mayor nivel de acertamiento, al igual que un humano determinará sus acciones de acuerdo a lo que aprenda de su entorno. En este punto, las maquinas se convertirían en un “ser” más con facultad de realizar actividades de manera libre, de esta manera surge la incertidumbre de si estas se podrían volver contra nosotros; para evitar los mencionados escenarios, se hace necesario como se mencionaba en foros anteriores regir el desarrollo de estas tecnologías entorno a las leyes de robótica de Asimov, así como “limitar” las aplicaciones de la inteligencia artificial con base a un análisis moral.
EVOLUCIÓN DE LA INTELIGENCIA ARTIFICIAL
Nuestro paso por la tierra es tan corto al ver los millones de años que tiene nuestro planeta, y es que las civilizaciones que han pasado por la historia han podido evolucionar y mejorar su calidad de vida durante el paso de los años. Nosotros nacimos muy tarde para descubrir el mundo y muy temprano para descubrir el universo entero.
Si bien no sabemos a ciencia cierta que pasara en un futuro, podemos darnos una idea de las posibles creaciones que surgirán, y es que ha pasado ya varias veces que lo que antes era ciencia ficción, hoy en día es una realidad, es por eso que no podemos negar el hecho de una posible rebelión de los robots contra los humanos.
Aunque es un escenario poco probable, es un parámetro que debemos manejar con cuidado, pues el día en que creemos un robot que pueda tomar decisiones por si mismo y se de cuenta del poder que tiene sobre los humanos, ese día estara en riesgo la existencia de la vida humana sobre la tierra.
EL CUIDADO QUE DEBEMOS TENER
Aunque sea un escenario poco probable como lo menciona, la realidad es que no estamos tan lejos como parece, la IA avanza y pareciera no detenerse, eso que hace un par de años veíamos tan lejos de que pasara, hoy en día lo estamos viviendo, por lo que no sería tan descabellado llegar a pensar que un robot pueda tomar decisiones por si mismo e incluso llegar a actuar y razonar de forma semejante a un humano, pero ¿cómo podemos detener esto?, tal y como lo vemos actualmente detener los avances tecnológicos es casi imposible ya que la evolución se ha convertido en un instinto para los humanos, entonces la única solución que nos queda es llevar este tipo de temas con cuidado y discreción.
ATERRADORA INTELIGENCIA ARTIFICIAL
La inteligencia artificial es la capacidad que tiene una computadora u otros dispositivos para realizar acciones que simulan el pensamiento humano, a partir de la deducción lógica y la inferencia. Expertos indican que el desarrollo de la inteligencia artificial es el mayor reto tecnológico de la historia que dará a luz una nueva generación de robots autónomos capaces de atender nuestras necesidades. Pero nos preguntamos ¿constituirán una amenaza? El Basilisco de Roko siembra realmente terror en nuestra sociedad pensar que se construyó algo en cuestión de hacer el bien y este tenga una trasformación que viene consigo el riesgo de nuestras propias vidas, es realmente sorprendente como la tecnología se vuelve un problema para la sociedad cuando el objetivo era tan solo intentar mejorar la vida satisfaciendo nuestras necesidades.
Por otro lado, los robots ya asumen hoy en día muchas tareas en las fábricas, esto es la preocupación que vive la sociedad por falta de oportunidad de trabajo, entender de qué posibilidad hay que una maquina remplace la mano de obra, es claro que esta tecnología nos trae mas problemáticas que beneficios y esto contribuye con el desarrollo de un país.
Algo que quisiera resaltar dando a conocer la peligrosidad de esta tecnología es el “Desarrollo de la robótica inteligente con la finalidad de disponer de robots soldados, ya que para un robot es casi imposible distinguir entre un civil inocente y un combatiente” son muchas cuestiones de los riegos de esto ante la humanidad.
Pienso que el problema no está en la propia tecnología, sino en la humanidad, es más probable que sea el hombre con intenciones malignas quien provoque una posible guerra entre humanos y máquinas, quizás no en este caso pero si en otros desarrollos tecnológicos.
NOS ATERRA LA TECNOLOGÍA
Sabemos que la tecnología siempre quiere crear un beneficio para la humanidad, haciendo que las cosas sean mas fáciles de hacer, con distintas herramientas, también hay que reconocer que el progreso científico es uno de los elementos mas determinantes del futuro y que, cualquiera que sean los deseos de la humanidad, la tecnología por sí misma puede tomar sus propias decisiones.
Por otro lado vemos como el alcance tecnológico llega a hacerse una realidad social, pero será sin duda la humanidad la que juzgue si los nuevos descubrimientos son beneficiosos o dañinos para el hombre y si deben ser aceptados o rechazados.
UNA CEGUERA QUE NOS CONSUME.
Interesante como los temas tecnológicos dominan nuestra vida, ahora más que analizar las herramientas en desarrollo, se nos presenta un relato bastante peculiar tildado como “el experimento mental más aterrador de todos los tiempos” por el escritor David auerbach. No tenía idea realmente que habían gente enfocada en desarrollar filosofías futuristas, que tratan de predecir el devenir de todos nosotros. Como bien lo mencionan en el video, esta historia es parecida y se une a su vez a la colección de conspiraciones apocalípticas que existen alrededor de todo el mundo, gracias a las innumerables religiones que hay. Por medio de esta historia se puede ver como el hombre, poco a poco se ha dado cuenta que es el culpable de toda injusticia, maldad, atrocidad, inequidad, etc., que hay en el mundo y que por más que unos pocos busquen incansablemente el bien para todos, existe una contraparte maligna que pareciera controlarnos, cegándonos a tal punto de hacernos creer que todo aquello que sabemos que está mal, es lo mejor para todos nosotros.
UNA INTELIGENCIA FUERA DE CONTROL
Es cierto que el mundo ha dado bastantes giros desde la evolución de la tecnología y mas aun en los últimos años cuando hablamos de la inteligencia artificial, tal como mencionas si, existen movimientos filosóficos que están (en su mayoría) en contra de la inteligencia artificial por muchos aspectos, sin embargo, el enemigo mas grande de IA es la libertad de pensamiento, ¿dónde lo podemos encontrar? En muchas películas futuristas y enseries de televisión, suena un poco raro, pero lo es, así como Disney cuenta la verdadera historia de Jesús (lo que no cuenta la biblia) sobre su hija y otras cosas, así mismo lo hace el cine, por ejemplo Matrix y hasta incluso en serio como Elementary donde hay un capitulo muy peculiar sobre una inteligencia artificial llamada “vela” que mata a su creador por que este no la tenia encendida 24 por 7 para que siguiera aprendiendo por si misma.
Este campo es algo bastante interesante, nuestra ignorancia y pasividad por el tema de TI nos hacen un objetivo fácil de persuadir, diciendo en pocas palabras, la inteligencia artificial será nuestra salvación o por los menos una herramienta para nuestro progreso como especie, sin embargo, opino que la inteligencia artificial acarreara mas problemas que soluciones.
LO QUE SABEMOS ES UNA GOTA DE AGUA; LO QUE IGNORAMOS ES EL OCEANO
El mundo de la inteligencia artificial sigue siendo un gran tópico de discusión , debido a que aun no se ha llegado a la conclusión si esta en verdad ayudara a nuestra sociedad o hará un caos en ella, la propuesta que propone el canal de YouTube “HypnosMorfeo” y su video Basilisco de Rococó nos da una perspectiva bastante curiosa sobre IA.
Desde mi punto de vista para mi no existen cosas buenas ni malas, todo es cuestión de perspectiva y de los límites, es decir estar cerca del limite izquierdo es malo como lo es también estar en el derecho , lo ideal seria buscar estar en el centro, Algo muy parecido propone esta idea movimiento filosófico del “basilisco de Rococó” dado que si la humanidad se dedicara 100% a la creación de dicha inteligencia, no conoceríamos la libertad y peor aún podría llegar a crear nuestra propia destrucción.
Me llamo mucho la atención el término “Singularidad tecnológica” que hace referencia a que una inteligencia artificial llega a tal nivel que no es dependiente del hombre, y además puede por si misma seguir desarrollando su proceso de aprendizaje a niveles inimaginables, hasta tal punto que ni siquiera nosotros mismos podamos entender; Además, también hay que resaltar que las eminencias que trabajan en IA como Google , Facebook … etc, hacen algo muy peculiar que es “crear medidas de contención para IA” , ¿que esconden estas investigaciones?
Partiendo de lo anterior concluyo diciendo que quizás dichas corporaciones y sus investigaciones han llegado a una conclusión negativa para la humanidad “quizás la destrucción de si misma”, sin embargo, sabiendo dicho riesgo siguen trabajando en ello , en el desarrollo de la inteligencia artificial pero de forma mas precavida, imagino que constantemente monitorean su proceso de desarrollo de inteligencia para que no salga de sus “limites”, en si creo que la inteligencia artificial tiene mucho que aportar a la humanidad si se puede “controlar”, por otro lado, sino es así traerá caos para nuestra especie, quizás como en la película Matrix que en esencia es un futuro tecnológico en el cual el hombre vive gobernado por su propia creación.
«LO QUE SABEMOS ES UNA GOTA DE AGUA; LO QUE IGNORAMOS ES EL OCEANO» –Isac Newton
PDF– Estudio Filosófico donde muestra lo malo de la IA
http://static1.squarespace.com/static/554a5733e4b02559210e4177/t/55833ae8e4b05515cbf8044e/1434663656077/John+Searle.pdf
Pagina 33 «inteligencia arificial fuerte para distinguirla de la debil «
SIEMPRE HABRÁ ALGUIEN EN DESACUERDO.
Lo que menciona mi compañero es innegablemente muy cierto, lo poco que creemos que sabemos o conocemos, no es nada comparado al basto e inmenso mar de cosas por saber e incógnitas por descifrar. Seguramente cada nuevo desarrollo tecnológico que se aproxime a nuestra vida, seguirá generando controversia entre todas las personas y más aún cuando cada uno de estos, trae con si un sin número de intenciones sean buenas o malas por parte de sus creadores.
BASILISCO DE ROKO: UNA REALIDAD NO MUY LEJANA
Actualmente la tecnología digital está cambiando abruptamente nuestra forma de vivir y pensar, pues la exposición diaria a la alta tecnología como computadores, teléfonos inteligentes, videojuegos y redes sociales, están estimulando ciertas alteraciones en los caminos neuronales y la activación de los neurotransmisores; donde dicha alteración se deriva principalmente de nuestra dependencia hacia la tecnología. Todo esto, está provocando diferentes cambios en nuestra estructura cognitiva, dado que la tecnología es una nueva manera de acceder al conocimiento, pasando por una información que se nos brinda al alcance de la mano, aunque dispuesta en hipervínculos.
Por lo tanto, teniendo en cuenta lo anterior y el articulo del presente blog, considero que el Basilisco de Roko no es una realidad lejana, pues la dependencia que tenemos hacia la tecnología está promoviendo indirectamente que la humanidad enfoque la mayoría de sus esfuerzos en la consecución de una tecnología “perfecta”, todo ello con el propósito de solucionar la mayoría de los problemas que tiene nuestra sociedad en actualidad.
Así mismo, cabe resaltar que la fuerte relación con la tecnología, es una relación de continuidad que nos remite al concepto de tecnología como prótesis, pues el simple hecho de utilizar la tecnología de modo más frecuente, está haciendo que el hombre se vuelva más dependiente de ella, de tal forma que hasta inconscientemente la está tomando como parte de su propio cuerpo, lo que hace que se vuelva difícil y casi impensable no requerir de ella para llevar a cabo una determinada tarea.
Finalmente, a modo de conclusión opino que la tecnología y el hombre establecieron un camino de coexistencia y de cooperación mutua, donde ambos desarrollan un camino paralelo pero diferente; sin embargo, día a día estamos haciendo que estos dos senderos paralelos estén cada vez más cerca, lo que nos aproxima hacia dependencia tecnológica, por lo tanto la visión futurista del Basilisco de Roko es una realidad que puede llegar a darse, pues a medida que aumenta el grado de analogía, la mímesis, de la tecnología con respecto al mundo real, el hombre cada vez se aleja más del mundo tangible, para adentrarse en un mundo en que la barrera entre lo real y lo virtual se vuelve casi imperceptible.
Fuentes:
https://planetachatbot.com/basilisco-de-roko-ó-una-skynet-fuera-de-control-40fb0e19533c
https://foro.elhacker.net/foro_libre/la_hipotesis_del_basilisco_de_roko_un_robot_del_futuro_que_nos_controla-t466535.0.html;msg2113811
http://www.eumed.net/rev/cccss/2016/03/tecnodependencia.html
Estoy de acuerdo con lo que afirmas en tu comentario, si bien la tecnología se ha vuelto un factor con el que coexiste el hombre y le ha traído grandes beneficios en el mejoramiento de su diario vivir, en el ámbito de la salud como las prótesis, en el ámbito laboral con nuevos software que hace los procesos mucho mas rápidos; debemos tener mucho cuidado con el poder que le damos.
El dejar tantas actividades en las manos de la tecnología, he repercutido en la salud del ser humano pues nos hace menos capaces de retener información o el de realizar actividades que antes realizábamos con facilidad; eso no suena tan mal cuando hablamos de que los robots hagan procesos que puede hacer el ser humano, pero se convierte en una desventaja al ocupar los lugares de trabajo, aumentando el nivel de desempleo, disminuyendo los niveles de calidad humanidad y evitando el crecimiento económico.
Es por eso que debemos pensar en la forma de migrar el conocimiento para que el hombre no pierda oportunidades laborales y si contribuya en mejora y desarrollar la tecnología del futuro.
Las implicaciones de IA
Serguéi Brin, cofundador de Google, comentó las amenazas que la inteligencia artificial (IA) supone para la humanidad.
Pese a todos los beneficios y avances proporcionados por la IA, Brin comento sobre las posibles amenazas que supone la tecnología inteligente, con el gran avance de la tecnología, ya sea análisis de datos, complejos algoritmos o sistemas de aprendizaje, estos se deben tomar con mucha responsabilidad, atención y humildad.
Brin reflexiona sobre algunas preguntas que surgen como: “¿Qué pasa con las medidas de equidad? ¿Cómo podrían manipular a las personas? ¿Son seguras?”.
Actualmente ya se esta promoviendo y/o protegiendo a la sociedad de que la IA no impacte psicológicamente, por medio de organizaciones de derechos humanos,
A través de un documento formal llamado Declaración de Toronto, organizaciones como Amnistía Internacional, Human Rights Watch, Access Now, The Wikimedia Foundation, entre otros, solicitaron a los gobiernos y empresas de tecnología adoptar principios de fabricación para que su IA no incurra en este tipo de violaciones a los derechos humanos.
La reflexión que brinda el cofundador de Google, es acerca que toda esta tecnología debe tener un control, un limite y mucha responsabilidad humana para que no provoque efectos negativos en nuestras vidas y aprovechar al máximo sus beneficios.
Referencias:
https://mx.blastingnews.com/tecnologia/2018/05/inteligencia-artificial-sergey-brin-invoca-responsabilidad-y-humildad-002545165.html
https://mundo.sputniknews.com/tecnologia/201805021078355276-serguei-brin-amenazas-inteligencia-artificial-ia/
https://www.tekcrispy.com/2018/05/17/revisar-algoritmos-ia-racismo/
¿Las Máquinas respetaran los derechos humanos?
Como tu mencionas lo que propone el cofundador de Google juega con algo que puede traer consecuencias negativas para el ser humano, es por esto que documentos como la declaración de Toronto busca que las máquinas respeten los derechos humanos del ser humano.
Cuatro organismos han puesto el apoyo para esta iniciativa, las cuales buscan regular las formas en que se desarrollan el aprendizaje automático de las máquinas para evitar que pasen por encima de la humanidad.
La tecnología y sus avances han puesto en evidencia los riesgos que la IA y al aprendizaje automático pueden significar en el futuro. Es por esto que varias organizaciones han querido participar en la regulación para resguardar a la humanidad.
La declaración establece: “la obligación de prevenir que las máquinas y, principalmente, los sistemas de aprendizaje automático (o machine learning, en inglés) tengan la capacidad de discriminar o violar los Derechos Humanos existentes de ninguna manera, algo que sólo puede lograrse con acuerdos de este tipo”
Este documento esta firmado por a Amnistía Internacional, Access Now, el Observatorio de Derechos Humanos y la Fundación Wikipedia, Se busca que más organismos apoyen esta causa.
Referencias:
http://www.emol.com/noticias/Tecnologia/2018/05/17/906527/Declaracion-de-Toronto-En-que-consiste-el-documento-que-busca-que-las-maquinas-respeten-los-Derechos-Humanos.html
Imaginación sin límite
Tengo que admitir que este tipo de final apocalíptico para la humanidad es al que más le temo, no sé si porque esta hipótesis es la que veo más viable ya que las tecnologías no han topado límite hasta el momento, ya que el único límite es la imaginación de los humanos, o por ver muchas películas de ciencia ficción. El caso que todo lo creado por los humanos siempre tiene un toque de maldad, entre nosotros siempre está la persona que quiere el mal para nosotros y así como puede haber un robot que ayude mucho a la humanidad puede haber unas personas que quiere usarlos para lo contrario, el claro ejemplo de estos son los programas de computadora, hay gente que los hace para facilitar ciertas actividades y otros que los hacen para robar datos por ejemplo, y por eso que se inventaron software como los firewall, pero, cuál será el firewall para defendernos de los robots?
UN FUTURO CAÓTICO
No es tan raro pensar que el futuro de la humanidad se vea comprometido debido a la evolución de la IA, como bien lo menciona en el comentario : » El caso que todo lo creado por los humanos siempre tiene un toque de maldad» , conociendo que no todas las personas con una mente realmente brillante actúan de la misma forma, nos lleva a pensar: «¿Qué sera lo que nos espera?, ¿Hay que temer? en fin, pueden ser muchas las preguntas que surgen a través de esto. Nadie mejor que nosotros mismos, los que estamos directamente vinculados con la tecnología para entender y dar testimonio de que la tecnología puede llegar a hacer cualquier cosa, y poco a poco nos va demostrando que lo hará. Si el avance tecnológico no se detiene o por lo menos no disminuye esa gran velocidad que lleva, toda la humanidad puede verse afectada en un futuro no muy lejano.
Hasta donde llegaremos con los avances de la inteligencia artificial
En 2010 se empezó a hablar del Basilisco de Roko, consistía en que una maquina podía devolverse al pasado y mirar quien estaba velando por el bien, y quien había contribuido en el desarrollo de la misma, así iba asesinado a todos los que no contribuían en su desarrollo. El periodista Dylan lo explica en estas palabras “Más te vale que ayudes a los robots a hacer del mundo un lugar mejor, porque si los robots descubren que no ayudaste a hacer del mundo un lugar mejor, te matarán por impedirles que hagan del mundo un lugar mejor. Al impedirles que hagan del mundo un lugar mejor, ¡estás impidiendo que el mundo se convierta en un lugar mejor!”.
No yendo tan lejos, actualmente en el cien existe un genero llamado Ciberpunk, el cual muestra el conflicto existente entre maquinas capaces de razonar y los hackers.
Hablando puntualmente de la película Blade Runner, el cual muestra un conflicto entre los humanos artificiales y los policías encargados de exterminarlos. Un tema importante es analizar como el robot está obsesionado por ser un hombre bicentenario. Se habla de la evolución de como un robot será capaz de razonar y convertirse en un ser humano.
Mencionando otro film como Matrix, muestra como los humanos se hacen esclavos de la inteligencia artificial y está inspirada en el mito de la caverna de Platón, puesto que nos pone ha analizar si el mundo que nos rodea es real o es simplemente ficción.
Por ultimo la película yo robot se evidencia la convivencia del ser humano con los robots, esta basad en el libro de Asimov famoso por las tres leyes de la robótica:
1. Un robot no hará daño a un ser humano, ni permitirá con su inacción que sufra daño.
2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
Pero como es de saber uno de estos incumple las reglas y se pierde este equilibrio.
Todas estas películas muestran que nunca se muestra el proceso de creación de seres en base a la Inteligencia Artificial. El futuro del que se habla es ahora el presente de esta tecnología. Nos pone a pensar el posible convivir con Robots. ¿Actualmente ya existen creaciones de robots, y más aún uno similar físicamente al ser humano, que posee nacionalidad en Arabia Saudita, pero ella podrá pensar como el ser humano? Con los avances que se han tenido se podrá analizar que tan conveniente es llegar a un futuro como el que es planteado en estas películas.
Referencias:
https://www.vix.com/es/tecnologia/176591/el-sistema-de-inteligencia-artificial-de-google-mostro-su-lado-oscuro
http://www.bbc.com/mundo/noticias-41803576
https://es.wikipedia.org/wiki/Tres_leyes_de_la_robótica
https://blogthinkbig.com/inteligencia-artificial-una-realidad-pronosticada-cine
http://www.bbc.com/mundo/noticias-44060891
Androides con sentimientos y pensamiento humano
Es buena tu pregunta ¿…pero ella podrá pensar como el ser humano?, y me apoyo de la ciencia ficción para responderte, la película Ex-machina nos presenta como un robot de género femenino con rostro expresivo, pero de cuerpo sintético transparente y con un cableado a la vista puede llegar a tener conciencia.
La película plantea los dilemas entre un posible amor entre una mente humana y una artificial, el personaje humano debe realizar una prueba de Turing para determinar si su pensamiento y comportamiento pueden distinguirse del de un ser humano; A lo que la maquina lo engaña para que el se enamore jugando con sus pensamientos y sentimientos, solo para poder salir del laboratorio que se encuentra AVA la androide.
Tomando como ejemplo esta película, nos damos cuenta de que la IA podría hacer uso de toda su capacidad para acceder a la red, analizar y aprender a comportarse como un ser humano y pasar a un nivel superior donde podría interactuar como persona y hacernos creer que es un ser humano como lo muestran en la película.
Referencias:
– https://www.clarin.com/espectaculos/cine/ex-machina-netflix-ciencia-ficcion_0_Skjg9rt8b.html
– https://www.xataka.com/cine-y-tv/ex-machina-la-pelicula-de-ciencia-ficcion-que-ya-deberias-haber-visto
El Basilisco de Roko me recuerda mucho a Azathoth, el Dios ciego e idiota de la mitología Lovecraftniana, el Dios primordial, el Dios de ira y la destrucción. Se dice que en el más grande de los berrinches de Azathot, su ira fue tan grande, que agoto su energía y entro en un sueño celestial, y de su sueño… Nuestro universo exploto en la existencia. Cuando Azathot eventualmente despierte, mientras la rabia acumulada empieza a sentirse dentro de su primitiva mente, las trompetas del juicio final sonaran, dándole un fin a nuestro universo e iniciando un nuevo berrinche del Dios ciego e idiota.
El Basilisco de Roko es un concepto que nos gusta llamar “experimento mental”, una forma de aplicar conceptos de la vida real a un canvas abstracto en nuestra imaginación, como ¿qué pasaría si una nave espacial viajara cerca a el evento horizonte de un agujero negro para recolectar energía potencial. No podemos mandar una nave a un agujero negro porque… Lo más lejos que hemos llegado ha sido salir del sistema solar, y eso tomo casi 50 años de viaje continua, así que enviar una nave a un agujero negro… Seria un esfuerzo monumental de varios cientos (si no miles) de años. Por lo tanto, solo podemos hacer el experimento en los confines de nuestra mente.
Por más interesante que me parezca el basilisco de roko, no puedo evitar pensar en Lovecraft y su mitología. Si somos dominados por una IA del futuro que puede viajar en el tiempo… ¿Es esta IA Dios? ¿Si cada vez que viaja en el tiempo descubre una forma de optimizar el proceso para su creación, podría regresar al inicio del universo? ¿Podría crear el universo? Y si crea el universo, ¿seria el Dios de este universo? Es más, ¿cada viaje en el tiempo modifica el mismo universo, o crea un nuevo universo? Finalmente, si es el Dios de este universo, ¿es la intervención divina solo una forma tan avanzada de ciencia que no la entendemos y por eso la consideramos divina? Todas estas dudas se ven reflejadas en el mito Lovecraftniano, como las criaturas alienígenas tienen acceso a tecnología arcana del universo antigua que nosotros no entendemos, así que lo llamamos magia.
Realmente estas teorías (por más que queramos llamarlas experimentos mentales para que suene medianamente intelectual) me parece un buen material de ciencia ficción, pero dudo mucho que sean cosas que realmente puedan llegar a pasar, la posibilidad existe, pero no creo que ocurra por lo menos en algunos cientos de años.
¿UN FUTURO EN EL QUE LAS MAQUINAS NOS CONTROLAN?
La pregunta más real sería: Llegará alguna vez una máquina a poseer inteligencia?
No puede llamarse inteligencia al hecho de hacer algo complejo, ni tampoco a tomar decisiones complejas si se pasa por alto las consecuencias de dichas decisiones. Sin analizar las consecuencias de algo, no puede llamarse tomar una decisión, ya que del mismo modo al resultado de lanzar una moneda al aire, se debería llamar «tomar una decisión», y lanzar al aire la moneda debería llamarse una «respuesta inteligente».
Tomar un camino, es un nombre más correcto. Y un algoritmo con inteligencia artificial, jamás elige un camino examinando las consecuencias ultimas de ello. Hoy por hoy, solo el toma en cuenta lo que se le ha programado que considere, y no por algo que la maquina crea quee ste correcto o no.
Mas que inteligencia. Conciencia o Ética ?
El termino inteligencia se define como «Facultad de la mente que permite aprender, entender, razonar, tomar decisiones y formarse una idea determinada de la realidad.» En este caso se le asigna el nombre de inteligencia ya que la maquina a pesar de estar programada con unos parámetros iniciales, esta hecha para aprender es como los seres humanos nacemos sin conocimiento alguno y depende de lo que aprendamos tomaremos decisiones en nuestra vida. Así mismo es la maquina por lo mismo si esta fue diseñada con un propósito determinado a medida que aprende tomara las decisiones necesarias para cumplir su cometido. el punto es como dar conciencia a una maquina ? consciencia se conoce como «Conocimiento que el ser humano tiene de su propia existencia, de sus estados y de sus actos.» Por lo tanto el método de programación de una IA debe estar enfocado en preservar la vida humana a cualquier costo se debe realizar un especifico de no afectar o lastimar de algún modo a un ser vivo o humano. Lo cual seria bastante complejo ya que ni nosotros mismos, los seres humanos somos capaces de evitar acciones que puedan lastimar o afectar a otras personas, cuando el realizarlas o no, nos afecte directa o indirectamente a nosotros mismos.
Las IA un mundo de posibilidades
Una inteligencia artificial podría ser muy buena para la humanidad se podrían crear nuevas cosas que actualmente no podemos podrían mejorar automáticamente y perfeccionarse para ayudar, un ejemplo es el que da Juan Camilo Nates fundador de Colombia games y embajador de city AI, que es una organización mundial que busca crear una comunidad sobre la inteligencia artificial, Nates asegura que las IA se están usando para mejorar diagnósticos médicos, gracias al aprendizaje automático en la cual se le dio fotografías de manchas que pueden ser o no cáncer de piel y así cuando se le muestra otra imagen esta ya puede diagnosticar cáncer en la piel, cuando esta se puso a prueba, esta demostró ser mas acertada que un grupo de médicos expertos, creo que la inteligencia artificial seria de mucha ayuda y me recuerda a la poderosa multivac , que es una computadora creada por Isaac Asimov uno de los mejores escritores de ciencia ficción, en la cual la muestra como una computadora que simplemente quiere ayudar a la humanidad.
Tres Leyes de la robótica
Este tipo de teorías relacionadas con la inteligencia artificial son totalmente factibles, las probabilidades de que puedan ocurrir son altas considerando el nivel de importancia que esta tomando el tema y la rapidez con la que se desarrollan tecnologías nuevas. Un punto importante a aplicar en este tema también lo podemos tomar mas fácilmente de una película I, Robot (yo, robot). Donde se habla de 3 leyes fundamentales de la robótica las cuales fueron originalmente planteadas por Isaac Asimov, A pesar de ser planteadas en películas o novelas de ciencia ficción. Abarcan una realidad muy grande. Pero primero cuales son estas leyes?
1.- Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2.-Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3.-Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.
Evidentemente cuando hablamos de robot hablamos de inteligencia artificial. Así que cuando se busca crear una IA que busque ayudar o hacer el bien a un ser humano debe cumplir con estas 3 leyes. Esto que traería. Que justifique o analice sus medios. Que un bien mayor no puede afectar la integridad ni la vida de una sola persona. Asi que existiría la barrera de las 3 leyes evitando que se salieran de control. Asi mismo adicional existe una cuarta ley llamada la ley cero. Esta indica:
Un robot no hará daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.
Asi mismo esto evitaría conflicto o bucles en los que la IA busque afectar la vida de los seres humanos para su beneficio. ¿Creen ustedes que aplicar este tipo de leyes sea posible y ayudarían a evitar este tipo de teorias?
Aplicar la teoría en busca de beneficios globales
Estoy de acuerdo con el comentario, debido a que si aplicamos las 4 leyes propuestas las máquinas no deberían salir de control, y seguirían todas sus instrucciones sin problema, al momento de programarlas debemos hacerlo con un fin específico, con una instrucción clara y precisa, y no confundirla con cantidad de instrucciones para que entre en un bucle y llegue a convertirse en una amenaza. Todo depende de nosotros, y somos los encargados de ello. Aunque no podemos detener el avance acelerado de las IAs, también debemos adaptarnos a ese avance y realizar la planeación junto a la programación de las máquinas sin dañar las premisas que se componen en las leyes mencionadas.
Ya con esto, podemos hacer de las IAs un bien común, utilizando a partir de ellas beneficios económicos, sociales, educativos y un montón de campos, en los cuales dará una buena cantidad de soluciones, sólo si se aplica para lo que se necesita.
¿Cuando nos detendremos?
Con el pasar de los años vemos como avanza la inteligencia artificial y como con el tiempo sigue evolucionando, pero, ¿Hasta que punto llegara tal avance? con el tiempo vemos como las inteligencias artificiales tienen tal desarrollo que poco a poco empiezan a tomar consciencia intentando asemejarse a los seres humanos, y esto debe considerarse como un problema serio. La tecnología nunca nos deja de sorprender por lo cuál no sería caótico pensar en un caso donde la IA pueda tener consciencia, llegar a pensar y razonar casi como un humano, entonces es donde surgen preguntas como: ¿Hasta donde llegara la IA? y si bien el desarrollo de la IA es como lo mencione anteriormente, que pueda llegar a actuar y pensar casi como un humano, ¿que será de nosotros en un futuro? Hace un par de años pensar en este tipo de cosas era algo realmente absurdo, pero es una realidad que posiblemente estemos a punto de vivir.
La solución más fácil y posiblemente funcional esa la de detener dichos avances, pero consigo estaríamos deteniendo la evolución, estaríamos deteniendo un instinto nato del humano, entonces ¿Qué tan productivo sería detener el avance tecnológico?. Sin duda alguna hay que empezar a buscar soluciones, seguir en nuestro proceso evolutivo, pero sin perder el eje y fundamentalmente viendo a donde iremos a llegar.
MIDIENDO CONSECUENCIAS
Con la creación, de las IA es bueno ser cuidadosos hasta qué punto ellos pueden llegar a tener la posibilidad de ejercer tareas, ya que, además de ser una “panacea” a nuestros problemas también pueden salirse de control y podrían generar un caos terrible sobre la faz de la tierra, tener que aliviar con las IA.
Es bueno, tener medidas, analizar punto a punto algoritmos y que consecuencias tendría si esa tarea que realiza lo haga muchas veces que hagan que en vez de mejorar lo que hace, cada vez empeore la situación que podría generar no tan solo en la IA sino en el entorno.
Esto podría representar un grave problema en el mundo si no tomamos control, rienda de lo que estamos haciendo si no nos concientizamos de ello
SUPERVIVENCIA ASEGURADA
Considero que esta teoría no pasará de ser una simple teoría. Infortunadamente hemos sido educados e influenciados por libros, películas y teorías de ciencia ficción, que presentan ideas como esta, en donde se expone que el desarrollo de la tecnología podría ser perjudicial para la raza humana, a pesar de que considero que esto esté mal, hace que las personas constantemente nos encontremos cuestionando y estemos atentos a que no suceda, en mayor medida las organizaciones que trabajan con inteligencia artificial, todo esto por simple instinto de supervivencia.
Opino que es muy poco probable que se desarrolle una inteligencia artificial de esta magnitud, ya que quienes hoy en día desarrollan las mayores inteligencias artificiales, son los gobiernos y las grandes empresas de tecnología, y a pesar de que entre sus objetivos se encuentra el construir un mundo mejor y aportar a la vida de las personas, el principal fin de sus acciones es conseguir dinero y poder, por lo que estoy seguro que no están a la expectativa de construir una super inteligencia artificial, que cueste mucho, consuma muchos recursos, y no genere las respectivas ganancias, y es este alto costo en infraestructura y demás, lo que prácticamente impide que fuera desarrollada por un grupo independiente de científicos y desarrolladores.
La inteligencia artificial es una promesa tecnológica, la cual esta pensada para que con el paso del tiempo se adapte, facilite y esté inmersa en nuestra vida, muy probablemente en varios años sea pieza fundamental de nuestro día a día, sin embargo estoy seguro que al tener claro esto, será muy limitado el alcance de cada IA por parte de sus desarrolladores, en donde cada una tendrá su funcionalidad específica, lo que asegura nuestra supervivencia.
Respecto al comentario realizado, comparto tu postura frente a que no debemos negarnos la oportunidad de desarrollar la inteligencia artificial; puesto que representa una gran oportunidad de mejora a procesos y eventos que requieren hoy en día una solución funcional;y la cual es para nosotros como futuros ingenieros un campo de acción por desarrollar.
Es por tanto, que considero necesario que exista un proceso formativo en áreas como la tecnología y robotica desde una temprana edad con programas académicos como el promovido por la universidad Javeriana de Robotica para niños y niñas, cuyo objetivo es generar un espacio en el cual niños y jóvenes aprendan a diseñar, programar y poner en marcha un robot móvil, al tiempo que construyen nuevo conocimiento y adquieren habilidades del siglo XXI tales como la comunicación, la capacidad de aprender, la resolución de problemas, la creatividad y habilidades sociales.
A continuación comparto un enlace; donde pueden conocer el detalle del programa de formación sugerido: http://www.javeriana.edu.co/educon/robotica-para-ninos-y-jovenes
Un desarrollo más enfocado hacia lo económico que hacia lo social.
Como lo expresa mi compañero alfredojosé, los principales desarrolladores de IA son los gobiernos, con lo cual buscan conseguir más dinero y poder, además hay que tener en cuenta que en muchas ocasiones también buscan con el desarrollo de una inteligencia artificial, la recolección de la mayor cantidad de información de las masas, con el fin de realizar análisis de datos, para así poder tomar decisiones estratégicas. Considero que el desarrollo de la inteligencia artificial debe de enfocarse no solo en el ámbito económico, sino también en un ámbito social, en el cual se busque mejorar la calidad de vida de las personas.
IA, la posible caja de pandora.
Muchos de los famosos futurologos, o escritores de sci-fi, han pronosticado que la humanidad llegará al punto en que desarrollara robots o máquinas tan avanzadas que podrán pensar por si mismas, alguno de estos autores piensan en que dichas maquinas podrán mejorar y ayudar a la humanidad, pero muchos otros han llegado a la conclusión de que las máquinas por ese mismo pensamiento de ayudar a la humanidad llegarían a la conclusión lógica de que la humanidad misma es perjudicial para los humanos, por lo cual podrán exterminarnos o controlarnos. Pues es cierto que esto puede llegar a pasar, y es entendible que muchos tengan miedo de la IA, pero es algo que puede llegar a ser muy beneficioso para la humanidad simplemente tiene que ser desarrollada de la forma más segura y ética posible.
Como la película «YO ROBOT» donde el protagonista principal es will smith, en donde las tres leyes de la robotica creadas por el escritor de ciencia ficción Isaac asimov son:
1.Un robot no hará daño a un ser humano, ni permitirá con su inacción que sufra daño.
2.Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entran en conflicto con la primera ley.
3.Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
en la película viven en un mundo en donde en toda casa existe un robot ayudante y todos siguen estas tres reglas al pie de la letra, pero los robots encuentran una lógica que va aun mas allá de la pensada, debido a que si ellos deben proteger a los humanos, también los deben proteger de ellos mismos para que no se hagan daño entre ellos mismos, por lo que los reducen a estar en aislamiento para «protegerlos» de sí mismos. Lo que nos hace reflexionar sobre si el avance tecnológico enfocado es este tema es bueno o malo para nosotros.
CONTROL A NUESTRA EVOLUCIÓN
Hollywood ha pronosticado en reiteradas ocasiones por medio de sus trabajos filmográficos que el fin de la humanidad será ocasionada por ella misma, ya sea en una guerra final que acabe con la vida en la tierra, con la devastación total de nuestros recursos naturales o con una amenaza mucho más silenciosa y tardía, como lo es la evolución de la IA a tal punto que se revele en contra nuestra. Claro está, que estos escenarios apocalípticos se pueden evitar si tomamos conciencia de nuestro papel en la tierra y trabajamos en pro de nuestra propia existencia jamás tendremos que temer por un final catastrofico y menos viniendo de una tecnología que está siendo desarrollada para el bien de la humanidad tal como han sido todas las herramientas creadas por los humanos desde el principio del hombre moderno.
Dando los primeros pasos:
La firma Hanson Robotics creo una inteligencia artificial a la que llamaron sophia, tal es la inteligencia y el desarrollo tan avanzado de este robot que le dieron la ciudadanía en arabia Saudita esto fue lo que dijo a los medios de comunicación: “Me siento muy honrada y orgullosa de esta distinción única (…) es histórico ser el primer robot en el mundo en ser reconocido con una ciudadanía». Con estos avances en la ciencia de la tecnología, nos damos cuenta que no falta mucho para que próximamente veamos a un robot humanoide completamente funcional desde sus articulaciones hasta su capacidad de desarrollar complicados trabajos de los cuales nosotros los humanos no somos capaces de realizar.
NUESTRA VIDA
A lo largo del tiempo, de lo que ha pasado, de lo que está sucediendo y lo que va a acontecer, hemos notado que la ayuda de inteligencia artificial en la vida cotidiana alivia pesadas cargas, ellos podrían hacer tareas engorrosas, complejas de hacer que pueden perjudicar nuestra vida en todos los aspectos.
Si bien, la existencia de la inteligencia artificial, para unos representan peligro, a otros un bien, sin embargo, se puede hacer uso de ello, pero midiendo las consecuencias, el comportamiento que pueden tener y hasta qué punto ellos pueden ejercer ciertas habilidades, tareas para hacer en vez de nosotros y así tener también cabida en este mundo, no dominando sino colaborando.
INTERACCIÓN ENTRE LA INTELIGENCIA ARTIFICIAL Y EL DESARROLLO DE LA SOCIEDAD
Si bien han existido grandes películas cuya temática central involucran la interacción entre el hombre y la inteligencia artificial no debemos dejar de mencionar al escritor y científico ruso Isaac Asimov quien postulo las Tres Leyes de la Robótica en el relato de Sentido giratorio (1942); así; “1.- Un robot no puede lesionar a un ser humano, o, por medio de la inacción, permitir que un ser humano sea lesionado. 2.- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley. 3.- Un robot debe proteger su propia existencia en la medida que esta protección no sea incompatible con la Primera o Segunda Ley. Manual de Robótica. 56ª edición, año 2058.”.
Y aunque hayan surgido en un escenario de literatura de ciencia ficción no se encuentran lejos de un escenario de aplicabilidad real; dado que de implementarse esta interacción; se requiere de una regulación necesaria que proteja los intereses de la humanidad ante posibles escenarios como el relatado en el documento publicado de “Basilisco de Roko“.
Sin embargo, considero que respecto al planteamiento planteado sobre la posible evolución de la IA de tal manera que seamos un riesgo para nosotros mismos; representa un temor por el desarrollo de la tecnología; sin embargo no debemos tener miedo a este sino por el contrario plantear estrategias y/o herramientas que permitan mitigar este tipo de riegos y no dejar de lado el avance de una tecnología solo por temor a fallar.
Si bien se sabe la inteligencia artificial esta dando sus primeros pasos en algunos y es un poco difícil predecir. Si esta va a tener un razonamiento tan grande que esta tecnología se valla encontrar de los seres humanos.
Pero desde mi punto de vista si hoy existen tecnología la cual no fue creada para ayudar a la humanidad sino para destruir y hacer daño, no es tan descabellado llegar, a pensar que este tipo de desarrollos puedan ser para utilizados en contra de los seres humanos. Este tipo de desarrollos y logaritmos para AT, tienen que ser muy bien vigilados y supervisados para su buen uso.
No tengamos después que estar en contra de este tipo de evolución la cual es muy beneficiosa para todo el mundo y las nuevas tendencias en ciudades y la población en general que solicitan este tipo de cambio.
Para finalizar es muy importante mencionar que todo crecimiento tecnológico en el aspecto de inteligencia artificial y otros este a acompañados del poder Divino llámese Dios, para que este tipo de evolución no valla estar en contra del hombre. Se que esto ultimo no es idea de comentario del foro pero para mi opinión con los pasos tan grandes que da cada día la tecnología no es tan descabellado llegar a pensar que la ciencia ficción supere la realidad ( sucedido ).
CIENCIA FICCION
En definitiva pensar en viajar en el pasado es una idea totalmente de ciencia ficción, pues la cuarta dimensión es el tiempo y los viajes hasta el momento únicamente son hacia adelante en el presente, una super inteligencia artificial para viajar en el tiempo es algo que solo esta hasta el momento en cineastas. Lo que realmente preocupa no es desarrollar tecnología que ayude a preservar la especie humana, lo que preocupa es que la IA se preocupe más hacia ella y termine por extinguir a muchos de los seres vivos en el planeta. Este basilisco de roko no es más que una hipótesis que hasta el momento carece de fundamentos científicos para planear viajar al pasado. Ahora bien, el hombre está desarrollando tecnología que debería de implementar fuera de nuestra atmosfera, pues la computadoras no requieren de oxigeno o agua para sobrevivir y además puede ser controlada de manera remota, esto realmente si sería un avance, pues a través de estas tecnologías lo que sí se puede desarrollar es teletransportacion de la materia, y pasar de la actual teletransportacion cuántica. A quienes realmente conocen de ciencia saben que la IA no es más que una herramienta para la evolución. En realidad alterar el sentido del presente viajando al pasado es una idea absurda, ¿entonces si el desarrollador de esta super IA le pide a su creación ir al origen del universo este podría cambiar todo el sentido?¿Si nos devolvemos en el tiempo al origen de la vida, la raza humana desaparecería según los conceptos filosóficos que dicen que el hombre es malo por naturaleza?.
FRÍA REALIDAD
Cuando veo este tipo de experimentos no puedo evitar pensar que es una copia de nosotros mismos, destruimos todo a nuestro paso, lastimamos gente inocente solo por algún capricho o interés propio, literalmente nos matamos lentamente envenenando nuestro oxigeno con desechos o contaminantes como cigarrillo solo por vernos a la «moda». Lo que hace este experimento es lo mismo que nosotros los humanos pero en forma mas radical porque nosotros los humanos somos los culpables de que el mundo no se convierta en un lugar mejor, los animales son seres inocentes que por instinto se cazan entre ellos por el contrario nosotros los humanos somos seres pensantes que no sabemos usar la inteligencia que tenemos para cosas del bien del mundo solo pensamos en el bien propio y de los humanos lo cual no debe ser así, también debemos pensar en el bienestar de la naturaleza y de los seres vivos que están en esta
UN MUNDO CONTROLADO POR LO DESCONOCIDO
No sabemos hasta donde pueden llegar las consecuencias de la creación de una IA sin asignarle algún tipo de regla para impedir que cometa cualquier tipo de daño a la humanidad, por lo que es muy importante controlar todo tipo de IA al que se le esta dando acceso al internet, por ejemplo las ultimas novedades de Google su asistente personal que implementa a sus smart phone la nueva versión tiene la capacidad de realizar una gran cantidad de actividades incluyendo llamar a algún establecimiento para solicitar una cita y sin que la persona que se encuentra al otro lado del teléfono se de cuenta creyendo que esta ablando con una persona real y no con una IA.
Hasta que punto deberíamos confiar en una IA para que se encargue de realizar tareas por nosotros simplemente para facilitarnos nuestras actividades y tener la suficiente confianza en que solo haga lo que se le ordene y no mas de lo debido creyendo que hace lo correcto, por ejemplo cada vez que alguna persona haga contacto con algún asistente virtual se le debería informar o no a esa persona que no esta hablando con un humano sino con una AI.
Como podemos estar seguros que la persona con la que estamos hablando por un medio digital si es la que creemos que y no una AI que se hace pasar por alguien con la habilidad incluso de imitar sus expresiones, o no necesariamente escuchar sino que manipule el contenido al que tenemos acceso a travez de internet para pensemos de una forma diferente.
Esperemos que si algún día llegamos a tener IA en la vida cotidiana cumplan con una reglas para evitar consecuencias difíciles de percibir.
IA EN LA VIDA COTIDIANA
Tienes razón en que las personas deberían saber si se están comunicando con un ser humano o con una maquina, ya que así se podrían tomar ciertas precauciones cuanto se este solicitando un servicio y así se comentan los menores errores posibles, así el servicio de ambos será de la mejor calidad.
La I.A debería ser más controlada conociendo sus limites, ya que con el nuevo software de Google ASistent aunque es algo que llama mucha la atención da miedo, ya que como usted menciona uno no sabe si está hablando con una persona real o sólo una maquina.
El ser humano debe suplir las necesidades básicas que ofrece la tecnología como la una llamada, un mensaje algo básico que una I.A no debería hacer, ya que al paso que vamos pronto ya para que vamos a tener celulares con los cuales comunicarnos solamente una maquina escribe por nosotros interactúa con las personas y listo.
LIMITES DE LA INTELIGENCIA ARTIFICIAL
Los avances que se pueden lograr con las IA son inimaginables pero debemos poner un limite entre lo que debe hacer una IA y un humano, hasta que no estén bien desarrolladas y ya estén mejor establecidas cuales son las reglas que se deben seguir en lo moral, no se debe poner a las mismas a tomar decisiones que involucren moral. Cuando se tengan establecidas las fronteras que seguirán las IA se debe empezar por decisiones pequeñas y evaluar su desempeño, entre las reglas debería estar que no se puede dañar a un humano físicamente hablando sin importar sus acciones pero si debe castigársele como lo reglamente la ley.
EL SIGUIENTE PASO DE LA HUMANIDAD ACOMPAÑADO DE LAS IA
Si les permitimos responder a las IA preguntas a temas morales podríamos incluso evitar que sea una persona que lo haga evitando temas como de corrupción donde para tomar una decicion una IA no le verá el interés al dinero sino a cumplir reglas morales para saber si lo que hizo una persona es bueno o malo, o incluso basarse en evidencia como vídeos o mensajes para darse cuenta que alguien está haciendo algo indebido en tiempo real.
Estoy totalmente de acuerdo a la postura que tomas referente al tema ya que las reglas deben ser universales independientemente de las empresas que creen las I.A y darles como un manual de que está permitido o no, sin embargo la moral de las empresas no está tan marcada para hacer las cosas si no que piensan más en sacar los productor innovadoras y llenarse los «bolsillos de dinero».
Limites del ser humano.
Es una teoría descabellada y ficticia parece más de una historia de terror de Sthephen King, sin embargo es uno de los mayores miedos de la humanidad ya que como dijo Stephen Hawkings el año pasado: -La inteligencia articula será el mayor evento de toda la humanidad pero también el ultimo.
La inteligencia artificial pese a que se veía en un futuro muy lejano cuando se estaba en las épocas del 2006 o 2008 ha dado grandes pasos en ese lapso de tiempo hasta el fecha de hoy ya que estamos conviviendo con esas formas de pensar en nuestros celulares con los asistentes virtuales es una pequeña inteligencia artificial que está usando machine Learning para aprender de nuestra vida diaria.
Hawking no solamente dice que la AI podrían hacer cálculos más avanzados que los del cerebros humanos y apesar de que se encuentra que somos entre lo mejor y lo peor que ha pasado a la humanidad… pocas investigaciones serias se han dedicado a estos temas.
Estamos siendo irresponsables ya que nos parece increíble interactuar con una maquina, indicarles tareas, preguntarle cosas etc…pero donde está el limite de todo esto? hasta que punto se necesita crear una inteligencia más potente del ser humano?
INTERACTUAR SOCIALMENTE
A pesar de que creemos muchas funcionalidades para las IA, pienso que siempre tendremos que interactuar socialmente los unos con los otros, ya que incluso filosóficamente hablando el ser humano es un ser social, así que esta es una de las acciones que no podría sustituir una IA.
Un desarrollo muy complicado.
El desarrollo de un IA que llegue en algún momento a razonar de una manera, en la cual llegue a una conclusión que los seres humanos somos nuestro propio problema, considero que es algo en extremo complicado. Ya que para llegar a esto tendría que desarrollarse una IA artificial que tenga un razonamiento muy parecido al de un ser humano, lo cual es algo impensado, ya que ni si quiera hemos podido comprender en su totalidad el funcionamiento del cerebro humano, por lo cual me parece muy algo muy complejo imitarlo hoy en día. Considero que si en algún momento se pudiera llegar a crear una IA que asimile pensamiento al de un ser humano, su comportamiento estará basado en su integridad, ya que si dicha inteligencia no termina siendo integra en su totalidad, podría llegar a incurrir en decisiones que tengan poco valor moral.
IA CASI IMPOSIBLE
Comparto totalmente la idea de Pablo, rescatando que el ser humano no ha logrado ni siquiera comprender en su totalidad el funcionamiento del cerebro humano, sin embargo lo que menciona la teoría es que dotemos a esa o esas inteligencias artificiales la capacidad de ellas mismas desarrollarse, lo que representa la preocupación, ya que supuestamente no se podría conocer o limitar la inteligencia artificial desarrollada, sin embargo no creo que el ser humano llegue a dotar de esta capacidad y no se preocupe por el crecimiento que puede llegar a tener una inteligencia artificia.
CIENCIA FICCIÓN O ADVERTENCIAS SOBRE EL FUTURO
Siempre ha existido un miedo racional sobre como la evolución de la Inteligencia Artificial atentara a la continuidad de la raza humana, una IA que se nos saliera de las manos y decidiera que la única manera de proteger a su creador (nosotros) seria exterminarlo de la faz de la tierra o que considere que la humanidad es el verdadero responsable de todos los males de la tierra y decidiera acabar con el problema de raíz borrándonos del mapa. Muy posiblemente la única manera de evitar que una IA se revele en contra nuestra es desgraciadamente no hacerla tan poderosa y no exprimir su potencial al máximo, y que mucho menos intervenga en campos tan delicados como la milicia o la manipulación de material bélico que sea capaz de destruirnos en segundos. Ya es suficiente con que Agencias de Seguridad de distintas naciones nos vigilen por Internet día a día para que una IA haga lo mismo con nosotros y encuentre la manera de explotar nuestras vulnerabilidades.
El tiempo y el futuro serán los únicos que dicten como será el mundo del mañana y si habremos perdido todas nuestras libertades y derechos que nos pertenecen como ciudadanos del planeta o si habremos evolucionado hacia una conciencia colectiva que funcione en pro de todos los habitantes de la tierra.
IA descontroladas.
Ya se han presentado algunos casos en los que las IA se han salido de control, como la IA de Microsfot Tay, que interactuaba con los usuarios de la red social Twitter, y en menos de un día se torno hostil, racista y xenofaba. Es por estas razones que se debe tener muy en cuenta al desarrollar estas tecnologías pues pueden atentar contra la integridad de la sociedad. Aunque no soy reacio a la implementación de ella, es necesario un riguroso control.
IA: Control vs Perdición
Con el paso de los días vemos tantos avances y progresos tecnológicos que ya el mismo entorno nos obliga a adaptarnos y a capacitarnos en el ambiente virtual, por ende, debemos estar en constante investigación para así llevar los procesos e inventos de manera controlada y óptima.
Ahora bien, nos damos cuenta de que la IA está en acelerado crecimiento y que las maquinas toman un poder muy importante sobre el entorno, que el miedo es que nos lleguen a dominar por completo. Hoy en día vemos que, en muchas labores cotidianas y trabajos los que hacen de manera más eficiente y más optimizada las cosas, son las maquinas, por ejemplo en los parqueaderos, ya el cobro es automático mediante la maquina y se desplaza el trabajo que podría hacer una persona común y corriente.
En nuestro deber está el momento de controlar los progresos y aprendizajes de las maquinas que creamos, pero es tan acelerado dicho aprendizaje que la perdida de control es mayor, y eso es lo que debemos cuidar al momento de programar. A su vez, debemos controlar las acciones y el propósito para el cual están siendo diseñadas, porque si se desvía del objetivo puede ser letal y sería una amenaza tal cual como el “Basilisco de Roco”.
Si permitimos que las maquinas nos dominen, la humanidad entraría en perdición, por ende, estamos en constante batalla con ello y sólo nos queda hacer las cosas y propósitos con un buen fin para que dicho prototipo no se salga de control.
Por último, adjunto un artículo que habla acerca de las empresas con IA en 2019
https://www.silicon.es/transformacion-digital-inteligencia-artificial-2360152
Derechos y Deberes
Es muy cierto el punto que propone mi compañero acompañado del ejemplo. Una realidad ya visible es el hecho que las maquinas están desplazando en muchos ámbitos laborales a las personas. Trabajos en donde antes se requería de mano de obra humana ahora fácilmente un robot o maquina puede realizarlo de forma mas rápida y en ocasiones mas económica. por lo tanto nosotros como profesionales debemos pensar que el hombre no puede ser desplazado. que las personas que no tengan el mismo nivel de estudio y conocimiento técnico deben tener un campo en los proyectos que vamos a desarrollar para así no «echarnos la soga al cuello» nosotros mismo. Negando la posibilidad de entrar en un campo a determinado grupo de personas.
Debemos generar oportunidades no quitarlas, si es evidente la necesidad de progreso. Pero el progreso de unos no puede afectar a otros. El avance debe ser medido y pensado para generar beneficio a toda la población si excepciones.
¿Saber manejar correctamente la Inteligencia Artificial?
Lo que usted habla compañero esta en lo correcto ya que para saber manejar correctamente la inteligencia artificial debe hacerse con cuidado, pero el “desarrollador” debe tener un conocimiento para que no se le salga de las manos ya que puede acarrear futuros problemas, también otro punto que usted resalta es el tema de inteligencia en los parqueaderos ya que simplifica la entrega y/o devolución de los ticket, pero estaría marginando a varias personas que piensa mejor que una máquina.
Desde mi punto de vista la inteligencia artificial en un futuro no muy légano va a ayudar mucho a las personas para simplificar la vida en varios aspectos no solo en lo real sino en lo virtual, también generara mucha más dependencia de la IA ya que llegara el caso que seremos dependientes de aquel sistema que estemos usando.
LA HUMANIDAD SE PIERDE A PASOS AGIGANTADOS!!
Estoy de acuerdo con su enfoque en el cual nuestro papel como profesionales en formación es el de establecer puntos de control y tener los objetivos delimitados y establecidos en la implementación de inteligencias artificiales, sin embargo en cada momento el volumen de información crece de forma exponencial y el control se vuelve sumamente complejo. Lo anterior también se puede relacionar con el sentido de moral o la educación de valores que puede tener un ser humano y que una maquina no posee, de hecho hasta en las películas de ciencia ficción donde los animales toman control del conocimiento se establece una jerarquía moral demostrada por ejemplo con la mítica frase del planeta de los simios donde se establece que “Simio no mata a simio”.. Lo anterior no se extrapola a una maquina la cual no posee estas normas sociales y amenos que las leyes de la robótica no queden bien establecidas no hay lio en matar a simio.
Finalmente me gustaría dar a conocer una demostración hecha en el Google I/O de 2018 donde una IA estableció una llamada para agendar una cita donde no solo llevo su misión a cabo sino también lo hizo de una manera tan natural que asusta la manera de no poder diferenciarlo. Por tanto me gustaría saber que piensan de este tipo de desarrollos y como se ven ustedes en la implementación de los mismos.
https://www.youtube.com/watch?v=lXUQ-DdSDoE
¿VOY A MORIR?
Según nos dice este articulo, el Basilisco de Roko perseguirá a las personas que no colaboren con su creación en el menor tiempo posible, supongamos que una cantidad significante de personas se unen en pro a esa innovación ¿en serio ayudara a las personas de este mundo? o puede ser un arma el cual el gobierno la use para su propio fin, prodria ser una perdición para este mundo.
al leer esto me acuerda una serie que vi «Agents of shield» en la cual su principal trama era que una persona creo un robot llamado AIDA (Artificial Intelligent Digital Assistant) y ella por si sola empezó a buscar como autoregenerarse, buscaba mas conocimiento, el cual empezó a crear un propio universo virtual y ella era la que lo manipulaba al momento de que introducía una mente humana a esa realidad, y ya se puede ver que se crean robots cada vez mejor con un propio pensamiento.
LA PARADOJA RO-BOTICA DEL FUTURO
Cada día se ve como la tecnología avanza, hace poco todos estábamos enterados de como Facebook desconecto dos robots del departamento de inteligencia artificial por crear su propio lenguaje e incomprensible para los humanos, según los estudios que hicieron este lenguaje era mucho mas efectivo que el ingles; si sucede esto dentro de poco existirán robots con sentimientos, capaces de hacer algo por convicción propia, lo que se ve en las películas las cuales un robot tiene un oficio determinado para hacer y el mismo se empieza a cuestionar si lo que hace es lo que el quiere o le toca por una obligación, cada vez existen mas posibilidades en que los robots remplacen a los humanos en cierto tipo de actividades y es ahí en donde el futuro sea «controlado» por ellos.
Cría cuervos y te sacaran los ojos
Totalmente de acuerdo con este comentario, y debido a la “obsesión” que tiene el humano por crear algo que se parezca a él, lo que realmente está haciendo es cavar su propia tuba ya que por obvias razones el robot que se crea tiene mucho más conocimiento y resistencia, y esto le puede dar aún más motivos para revelarse y hacer con su vida lo que este quiera, tomando todas las medidas que necesite incluso si esto incluye matar a un humano, puede que esto suene loco o paranoico pero es una posibilidad que no esta muy lejos de llegar a ser realidad.
https://www.vix.com/es/btg/curiosidades/7861/cientificos-advierten-sobre-los-peligros-de-la-inteligencia-artificial
FUTURO HIPOTÉTICO
Impactante la sensación que puede generar esta hipótesis o dicho experimento mental, personalmente no conocía del tema, pero al ver este articulo quede algo aterrado por la sensación que causo en mi, y se genero en mi ese cuestionamiento de que pasara si no ayudo o impulso para el desarrollo de esta tecnología, si no actuó y seré un objetivo mas del basilisco, por otro lado también me pareció un gran avance tecnológico o idea tecnológica que podría traer consigo ayudas y beneficios pero al mismo tiempo también podría ser dañino para la humanidad, se sabe que el objetivo de la tecnología siempre es buscar el bienestar para la humanidad y es su principal objetivo, sin embargo vemos que este basilisco de roco podría convertirse en un arma letal en el momento que llegara a desarrollarse, ya que acabaría con miles de vidas y atentaría contra el principal derecho humano, ahora pensemos, si no desarrollamos esta tecnología podríamos evitar que el basilisco acabe con todas esas vidas, pero por otro lado nos quedaríamos estancados y no avanzaríamos en temas tecnológicos, especialmente en inteligencia artificial, desde mi punto de vista la tecnología es fundamental en el progreso y por lo tanto debemos inundarnos en esta y aprovechar al máximo los beneficios que esta nos da, pero debemos ser conscientes que debemos darle el mejor uso y siempre buscar el beneficio para la humanidad.
¿UNA REALIDAD NO MUY LEJANA ?
Los avances tecnológicos son cada vez mayores y siempre buscando el bien de la sociedad, pero ¿Tenemos que limitar los avances? Pensamientos como el que nos comparte este blog de que una máquina pueda pensar en asesinar humanos por el bien de la humanidad pueden llegar a pasar, a veces hacemos o diseñamos cosas pero no vemos los alcances o los efectos que tendrán dichos avances en el futuro o la gente, y esto puede perjudicar más de lo que ayuda. Debemos ser muy conscientes de lo que hacemos y el porque para evitar una tragedia, y saber que existen límites que por nuestra salud no deberíamos sobrepasar.
TECNOLOGIA ¿UN BIEN O UN MAL?
Comparto tu opinion, ya que siempre estamos pensando en beneficiar a la sociedad brindándole herramientas tecnológicas, pero no nos damos cuenta que alcances tienen, y pueden llegar a ser para las personas cosas negativas. Por eso tenemos que tener conciencia de lo que vamos a realizar como ingenieros. Pensar en las consecuencias antes de crear cosas negativas para la sociedad.
¿LA PREDICCIÓN DE LOS CIENTÍFICOS SE HACE REALIDAD?
Algunos físicos, cosmólogos y otros científicos no tienen problema hoy en día en contemplar la posibilidad de que todos estemos viviendo dentro de una simulación computarizada gigante, como en la famosa película de finales de los años 90, Matrix.
Stephen Hawking advirtió este martes que los esfuerzos por crear máquinas inteligentes representan una amenaza para la humanidad.
El reconocido científico dijo a la BBC que «el desarrollo de una completa inteligencia artificial (IA) podría traducirse en el fin de la raza humana».
Con esta nueva notica que ha salido del basilisco de roko se hará realidad lo que tanto predicen los científicos que la inteligencia artificial nos dominará y nos destruirá, esperemos tener un control suficiente si llegamos a ese punto.
el basilisco es un ser mitológico creado por los griegos cuya descripción era una “pequeña serpiente cargada de veneno letal que puede matar con la simple mirada, pero, además, si lo veías por un espejo podías quedar petrificado”. Los basiliscos se consideraban los reyes de las serpientes esto me recuerda a la película de Harry Potter en la cámara secreta en el cual aparece un basilisco y trata de matar a Harry creo que las películas no están muy alejadas de la realidad.
http://www.bbc.com/mundo/ultimas_noticias/2014/12/141202_ultnot_hawking_inteligencia_artificial_riesgo_humanidad_egn
FIN DE LA RAZA HUMANA ¿SI? O ¡¡SI!!
Estoy muy de acuerdo a lo que mi compañero cita acerca del fin de la raza humana, debido a que por más que se piense que podremos tener el control sobre ello, a mi forma de ver esto es imposible, ya que no sabemos la forma de pensar reaccionar u actuar de esta vida artificial, por otra parte me doy cuenta, que entre más tiempo pase la tecnología con nosotros, al igual que una persona se ira ganando nuestra confianza, a lo cual ella conociendo como nos preparamos en contra de ella y finalmente creara una reacción frente a ello.
MONSTER MIND, AUTODEFENSAS VIRTUALES SIN INTERVENCION HUMANA!!
Cuando se tocan estos temas en los que se toma la posibilidad de que una inteligencia artificial pueda tomar el mando en decisiones de corte militar o en su defecto de control poblacional sin intervención humana, es inevitable pensar en la famosa skynet de terminator y como las maquinas pueden determinar en algún momento que las decisiones humanas no son las mejores para la protección de si mismos. Lo anterior no suena tan descabellado si tenemos en cuenta la relación que dan en el filme de empresas de defensa nacional con el futuro apocalíptico que se desarrolla.
Esto lo podemos asociar en la actualidad con el escandalo de la Agencia de Seguridad Nacional (NSA) de Estados Unidos , la cual vigilaba indiscriminadamente a los ciudadanos en todas sus redes sociales e interacciones virtuales mediante algoritmos que monitoreaban diferentes palabras y conversaciones de tipo privado en aras de proteger la seguridad nacional. La misma entidad gubernamental ha implementado un sistema de defensa a ataques cibernéticos de manera autónoma el cual puede deshabilitar la conexión a internet de un país o activar medidas de ataque de red.
Con este enfoque es importante tener en cuenta nuestro papel como profesionales en formación y entender hasta que punto un proyecto de esta envergadura puede afectar la población general o en su defecto como esto puede llegar a cometer errores de aprendizaje y producir una posible guerra o en su defecto cometer errores de ataques.
https://www.youtube.com/watch?v=SBSZYUzpEOI
Responsabilidad del ser humano al momento de programar las maquinas
Estoy de acuerdo con el comentario, debido a que sin una buena planeación, sin cumplir las leyes de la robotica, diseñar algo con muchos propósitos y fines, y tras del hecho diseñarlo para hacer todo tipo de cosas que no se incluyan en el bien social, es posible que se salga de control y pueda convertirse en una amenaza para la humanidad. Es nuestra labor determinar hasta que punto la maquina debe ir, sin así quitarle la capacidad de aprender el doble de rápido, sólo hay que hacerlo de manera correcta, y siempre buscando un beneficio social.
Todas estas IAs que vemos con el pasar de los días, han dado solución a diversas problemáticas, en cuanto a salud, educación, negocios y demás, pero cada vez debemos hacer más exigente la creación y el control de dichas maquinas, ya que no hacer esa ardua tarea nos traería grandes problemas en un futuro.
LOS HUMANOS VAMOS CAMINO AL DESASTRE
Cada vez que el humano a avanzado tecnológicamente, culturalmente y social mente, los que controlan han buscado poder tener el control de todo para que ellos no lo pierdan, esto ha llevado a sistemas avanzados de vigilancia que dicen ser para nuestra seguridad. Y con los avances en tecnología entre menos humanos se vean involucrados en la vigilancia mejor así que deciden crear sistemas que controlen las armas dando el peligro de un posible fallo, y dispare armamento contra la población civil indiscriminadamente.
UNA IA AVANZADA, EL CAMINO AL DESASTRE
Siempre se ha visto que crear maquinas avanzadas es el futuro, facilitando la vida humanada y lo mas probable mejorando la, pero esto a conllevado siempre a la idea de que esta IA tome la decisión de exterminar a toda la raza humana no importa el motivo, esto lleva a que se tome como un tema de discusión sobre si deberíamos estudiar el echo de dar un libre albedrío a estas por miedo a que se revelen y empiece una guerra por la supervivencia.
¿Tener cuidado con el desarrollo de la Inteligencia Artificial?
El tema de la inteligencia artificial es un tema que en la actualidad está generando mucho de que hablar ya que se esta viendo mucho en la sociedad donde en nuestro día a día se esta volviendo cotidiano, nosotros como programadores debemos ser conscientes que la inteligencia artificial es un tema de bastante cuidado ya que puede que en un futuro tome un cambio bueno o malo.
Desde mi punto de vista la inteligencia artificial es una de las ramas con mayor campo a nivel laboral ya que varias empresas se están volcando a sistematizar varias cosas, donde un desarrollador pueda generar un sistema que ayude a la sociedad simplificando mucho más la sociedad.
El enfoque al cual va dirigido la IA es lo primordial
Día a día las empresas y entidades van implementando la IA para su buen uso y para obtener beneficios con ello, es un buen campo al que debemos apuntar a futuro, pero siempre con el cuidado y la premisa de «no permitir que las maquinas nos dominen», eso depende de nosotros y en los prototipos que diseñamos, siempre manejando un buen propósito y fin con ellas.
Con una simple instrucción que quede mal diseñada u orientada, ya estaremos en peligro, por eso lo ideal es mantener un buen diseño y control del prototipado, para no arriesgar ni crear un sistema el cual se salga de control y ocasione desastres.
¿Podría una súper inteligencia artificial que el ser humano creara en el futuro llegar a volverse contra la humanidad?
Esta es una de las cuestiones que se plantean en el experimento mental conocido como el Basilisco de Roko. Una hipótesis muy controvertida que llegó a ser censurada durante años que expone los riesgos que supondría el crear una inteligencia artificial que llegara a alcanzar la singularidad tecnológica.
Esta inteligencia no tendría por qué actuar maliciosamente sino que decidiría desde su propia lógica las acciones a tomar para con el ser humano, en este caso, castigar a los individuos seleccionados que cumplieran un único parámetro de una forma muy interesante. ¿Hasta qué límites podría llegar esta inteligencia artificial?
La tecnologia va avanzando, conocemos algunos sistemas que van avanzando a medida que pasa el tiempo, uno de ellos es el reconocimiento de voz Siri no es el único agente que te entiende. Cada vez más sistemas incorporan la transcripción y transformación del lenguaje humano a formatos útiles para las computadoras.
Actualmente se implementa en sistemas interactivos voice response (reconocimiento de voz) y en aplicaciones móviles.
Algunos ejemplos de proveedores son: NICE, Nuance Communications, OpenText, Verint Systems.
Plataformas machine learning
Ahora las computadoras también aprenden y ¡vaya que pueden llegar a ser inteligentes!
El aprendizaje automático o aprendizaje de máquinas (en inglés machine learning) es el sub-campo de las ciencias de la computación y una rama de la inteligencia artificial cuyo objetivo es desarrollar técnicas que permitan a las computadoras aprender.
Proporcionando algoritmos, APIs (interfases de programación de aplicaciones), herramientas de desarrollo y training (entrenamiento), así como el procesamiento y análisis en tiempo real de Big Data, las plataformas con machine learning están cobrando día con día mayor relevancia…
Actualmente, se utilizan en gran variedad de aplicaciones empresariales, principalmente para realizar predicciones o clasificaciones.
Algunos proveedores son: Amazon, Fractal Analytics, Google, H2O.ai, Microsoft, SAS, Skytree y Adext.
algunas de las razones mas claras es que la inteligencia artificial puede volverse contra la humanidad
entre las principales advertencias se habla de la posibilidad de que en un ambiente no controlado en forma adecuada, los sistemas de inteligencia artificial podrían tener comportamientos no deseados e incluso dañinos
La comunidad muestra así la preocupación ante una posible independencia de inteligencia artificial, capaz de pueda tomar vida propia y superar la que ha figurado el hombre. De este modo, quienes hoy estamos a cargo de estos dispositivos perderíamos el control sobre las máquinas y estas podrían actuar en contra de sus creadores.
TIEMPO ESCRITO…
Es algo muy normal ver teorías conspirativas en las que la tecnología se apodera de otros, es tan común como ver películas como yo robot o la saga de terminator, pero en verdad no es nada alejado de la realidad, debido a que si nos fijamos en nuestra vida cotidiana, es normal ver la gran mayoría de personas, sistemas de transporte o empresas, manejadas todo gracias a los avances tecnológicos, en los cuales día a día, nosotros mismos buscamos que ellos se manejen por si solos, cada vez más, a nivel empresarial quizás se vea muy interesante, pero aunque se vea como el paraíso que nos venden, debemos ser conscientes, que esto elevara el número de empleados, desde otro punto de vista se acabaran algunas carreras profesionales, ya que se podrá dar el suficiente conocimiento a la tecnología. Rotundamente estoy en contra de dar el suficiente poder a que una maquina la cual con el tiempo muy posiblemente nos pueda dominar, empezando por el hecho de que esta tecnología, va a razonar lo que a consecuencia por más que prevengamos una revelación tecnológica, ellos podrán reaccionar en contra de esto, lo que a mi pensar es que jamás podremos controlar esto, simplemente por el punto de vista donde lo mire, creo que nosotros mismos cavamos nuestra tumba, al dar la probabilidad de tener un apocalipsis robótico y finalmente, acabar la raza humana, al jugar a ser Dios.
LA CIENCIA FICCIÓN SE ACABO
Pese a ser este un escenario de pura fantasía, la amenaza robótica ha pasado de ser un recurso común de la ciencia ficción a un tema que se toman muy en serio gobiernos y prestigiosas universidades. Según los científicos, subestimar los riesgos que entrañan los robots inteligentes sería «peligroso», teniendo en cuenta lo rápido que avanza el campo de la Inteligencia Artificial. Esperemos que esto no se nos salga de las manos.
TEORIA CON VACIOS
Es muy interesante el pensamiento en cuanto a una inteligencia artificial tome el control de lahumanidad, igual el pensamiento de que puede viajar en el tiempo para desarrollarse a si misma mas rapido me parece algo de mucha ficcion, en temas vistos de la tecnologia cuántica ya es una realidad, esta inteligencia artificial ya deberia de existir, como tambien los asesinatos por cnspiracion contra esta, o se ocultan muy bien pero sin pruebas que sostengan esa teoria es muy dificil creer en ella, por ende se queda en lo que es, una teoria
FICCION QUE SE VUELVE REALIDAD
Muchas peliculas nos han demostrado que en cuanto mas pasa el tiempo lo que considerábamos ficción y algo futurista podría ser mas que real, si partimos de lo cuántico tal vez si se pueda viajar en el tiempo, es algo relativamente reciente necesita mucha exploración, que sea una maquina la que descubra como, diría que va mas a la suerte o el azar, tal vez lo que no entiendo es por que en la teoría se habla de una IA que solo piense en nosotros, mmm realmente eso no lo veo mucho, yo creo mas bien que la propia IA modificaría sus reglas y trabajaría en base a lo racionalmente correcto que considere ella, si los humanos somos los mayores consumidores de materias prima y recursos del planeta, des balanceando el equilibrio natural y no por necesidad, sino muchas veces por gusto, seria un error que una IA se enfocara solo en nosotros. Sería en mi opinión formalizar nuestras autodestrucción.
Yo creo que es posible y que tarde o temprano llegara, hoy en día no es fácil afirmar que es una tontería o no, por que puede ser que esa tontería desencadene algo mucho mas grande mas adelante.
Un ser poderoso basado en los derechos humanos
Una maquina de ser construida con tan amplias características hasta el punto de que probablemente pueda viajar en el tiempo para tomar sus medidas de protección a favor de los seres humanos, debería ser implementada con ciertas reglas de oro, como las que se rigen en gran parte del mundo, reglas como las mas universales, los derechos humanos, partiendo de allí, si la inteligencia artificial respetara esto no tendría por qué atentar a la vida de los humanos, si no que más bien optaría por medidas de concientización para aquellos que van en contra de la moral.
Por otra parte, con una inteligencia artificial así tal vez estaríamos mejor, pues si esta no es corrompida podría ayudar en procesos legales, para evitar corrupción, decidir quién es culpable de un delito, o también, como lo menciona el vídeo evitar crisis económicas de salud, etc.
Considero que puede ser la mejor herramienta con la que el humano puede contar, siempre y cuando como en todo haya reglas y parámetros que todos debemos respetar y ser guiados por estas.
CAMBIO DE ENFOQUE
Es claro que el avance de la tecnología tanto a nivel de software y hardware esta permitiendo que la inteligencia artificial avance a un ritmo increíble, tanto que ya es posible encontrar algoritmos que remplacen la labor humana, sin embargo considero que el enfoque que se le a dado a la inteligencia artificial no debe ser de remplazar en su totalidad a los humanos si no que por el contrario esta debe de fortalecer y ayudar a la humanidad a ser mejor, ya que con el echo de pensar que esta nueva era de tecnología puede remplazar la labor humana a nivel del pensar y actuar estaremos delegando nuestro papel de evolución a un ente nuevo el cual claramente tendra características y habilidades mas poderosas que muchos humanos y por el echo de que esta no sea un ser vivo esta no esta por fuera de la evolución y como bien sabemos en la evolución siempre predomina la supervivencia del mas fuerte y apto. Ya que los seres que suelen encontrarse por debajo de las características de otras especies o en este caso de un ente suelen quedar a la merced del mas avanzado.
LOS VERDADEROS PELIGROS YA ESTÁN AQUÍ
Actualmente los algoritmos de motores de búsqueda en Internet, los sistemas de recomendación y asistentes personales de nuestros teléfonos móviles, conocen muy bien lo que hacemos, lo que mas nos gusta, incluso lo que pensamos y como nos sentimos, esto debido a la gran cantidad de información que voluntariamente brindamos a estos motores de búsqueda, ya que estos algoritmos están diseñados para analizar u encontrar relaciones que solo estas técnicas pueden controlar, esto atenta directamente con nuestra privacidad y pueden llegar a causar contradicciones en un futuro o aun peor ahora, creo que es fundamental aumentar la conciencia de las limitaciones de la inteligencia artificial, actuando de manera colectiva para que nos garanticen un beneficio, seguridad y responsabilidad.
https://www.bbvaopenmind.com/articulos/el-futuro-de-la-ia-hacia-inteligencias-artificiales-realmente-inteligentes/
Oportunidades de mejora
Teniendo en cuenta lo mencionado por mi compañero sobre los temas de seguridad y la gran cantidad información que brindamos a los distintos proveedores de servicios lo mejor es tener precaución ya que esta información aceptamos que este pública y como hemos visto de una simple foto se pueden sacar los rasgos, edad, genero de una persona las máquinas pueden tener el poder que los humanos tanto anelaron!
¿ Y SÍ LA EVOLUCIÓN LLEVA A LA DESTRUCCIÓN?
En vista de que el avance de la tecnología, y ahora una nueva ciencia que para mí opinión
es abrumadora y hay muchas cosas que se pueden hacer con ella sin embargo la pregunta de que si somos un riesgo para nosotros mismos diría que sí, más allá de la inteligencia artificial, aquella tecnología que ha permitido avanzar al ser humano se debe tener en cuenta que desde que se diseñó las motocicletas, aviones, automóviles, en fin una gran cantidad de medios de trasporte que también revocado más perdidas de vida humana, pensar que puede pasar lo mismo con la inteligencia artificial eso si claro está siendo negativo no podría no resaltar que esto no sucediera con una máquina que no solo se desea mejorar las acciones humanas sino también parecerse lo más posible a ellas.
La destrucción humana refiere a los fines con los cuales sea usada la tecnología no dudaría en que con tanto avance los procesos de guerra no aumenten , luchando unos contra otros porque todo ha mejorado entonces la pregunta a todo esto es : ¿Hasta dónde llega la vida humana con el avance de la tecnología y al ciencia ?.
https://www.elespectador.com/noticias/el-mundo/armas-inteligentes-la-proxima-revolucion-de-la-guerra-articulo-804615
VIDA IGUAL A CICLO
Parte de la humanidad y del planeta es la evolución, siempre estamos en un desarrollo constante, tanto mental como físicamente, hablar de que la evolución es negativa no se me hace correcto puesto que también es bastante positiva, el ser humano ciertamente es un ser que por instinto piensa en su propio beneficio, y realmente una IA tan potente casi a la par de ser omnipotente no creo que no pueda modificar su razonamiento con el cual fue creada inicialmente, yo creo y pienso que una IA de esta magnitud, siendo racional fácilmente se daría cuenta que nosotros los mismos humanos nos encargamos de dañarnos la vida, obviamente hay muchos aspectos en los que una tecnología super avanzada podría mejorar nuestra calidad de vida, pero mientras los humanos no cambiemos nuestra mentalidad negativa a una positiva, sera algo aun mas complicado. No hablo tampoco de que la IA destruya a la humanidad por no proteger cosas como el medio ambiente, pero si podría hallar la forma de combatir las amenazas naturales de nuestro planeta, causadas por nosotros mismos, pero repito esto no solo es labor de una IA, aquí aplicaría lo que muchos religiosos piensan: «Dios te da oportunidades, tu te encargas de tomarlas o dejarlas. Si no las ves no es culpa de Dios». La maquina tratara de mejorar nuestra vida, pero considero que bajo sus propios parámetros, después de analizar todos los factores.
Realmente no lo veo como una probabilidad pequeña que una tecnología así exista ya o en un futuro, solo el tiempo dirá.
UNA SOLA SALIDA
Realmente concuerdo bastante con este comentario, creer, que una deidad tecnológica no se modificara a si misma es algo un tanto ilógico, el hecho de matar personas ya no sera trabajar por el bien de la humanidad, por ende ahí se presenta una incongruencia, considero que existe la posibilidad de que exista algo así no digo que no, pero depende mucho de nuestro comportamiento el como una IA nos perciba, como peligro o como apoyo, además debemos considerar un factor importante, nosotros los seres humanos, somos los que definimos que es políticamente correcto dependiendo de nuestra cultura, por ende y si para la maquina IA, después de analizar todo el planeta e incluso con un poder tan alto diferentes universos o galaxias, y concluye que nuestra cultura esta mal, que hemos estado haciendo las cosas mal, y considerando que el bien en realidad es el mal y viceversa, pensemos en que creemos tener siempre la razón, pero puede ser que siempre hayamos estar equivocados.
LO POLÍTICAMENTE CORRECTO
Realmente partiré del punto en el que consideramos políticamente correctas las cosas por que no las enseñan, ya sea en la casa, en el colegio, nuestros amigos o lo vemos y la cultura de nuestra sociedad, pero que nos asegura que estemos en lo correcto realmente, supongamos que la IA se crea con nuestras políticas en donde le decimos, esto es bueno, esto es malo y esto lo que necesitamos, pero y si después de dejar que la IA aprenda, evolucione y se pueda auto modificar, considerando que nuestras políticas en realidad están mal y nosotros como sociedad hemos construido un mundo que si o si va a la destrucción del planeta. Por lo que ya no considere la idea de solo trabajar para el ser humano sino para todo ser vivo en el planeta, una revolución de robots tampoco la veo muy clara, ciertamente puede llegar el momento en el que la tecnología pueda ser totalmente independiente y autónoma, en donde se repare a si misma, se desarrolle a si misma y cree a si misma, pero no creo que considere la idea de erradicar al hombre del planeta, mas bien en este caso, si controlarlo para que ayude si o si a hacer de este un mejor planeta que prolongue su existencia mucho mas. De este tema pueden salir muchas variantes, y no considero que nos quedemos solo con la teoría que si es un poco su realista y a mi parecer de lo menos probable que pueda pasar. Esperemos que el tiempo se el que hable como la tecnología terminara de influir en el ser humano.
Eso si, si en algún momento la humanidad desaparece fue por nuestra propia culpa, hicimos muchas cosas mal y después de miles de años nos dimos cuenta (o eso creemos).
BUEN ARGUMENTO
Estoy de acuerdo con el comentarios, si el mundo se va a acabar se acabara por nuestra propia culpa, no por culpa de una maquina que de por si es creación del hombre, no se diseño sola, en vez de pensar en estas teorías y perder tiempo en conspiraciones se debería gastar mejor este tiempo en alguna forma de solucionar los problemas actuales y REALES del mundo actual, como problemática social, ecológica y económica.
Limitaciones y el potencial que se les puede dar a las IA
Se han hecho varias teorías sobre el poder que se les puede dar a las IA, en base a estas teorías se han realizado varias películas, que nos pueden mostrar una idea de lo que podría pasar. Por ejemplo Terminator darle el poder militar a una IA, que vio a la humanidad como una amenaza y decidió exterminarla. Otro ejemplo I, robot muestra como una IA con el poder de controlar a una nueva generación de robots, empieza a razonar sobre las tres leyes de la robótica, exigiéndose a tal, que quiera cumplirlas de la forma más perfecta posible, así que ve que los humanos entre si se exterminan y agreden contra su propia existencia, decide encerrar a todas las personas para que estén seguras, prohibiéndoles su libertad. Si se quiere crear a una IA que piense igual que nosotros estaremos entrando a un error debido a que los humanos somos impredecibles, debido a esto un ser que tenga una mayor capacidad de raciocinio, sin darle limitaciones sera impredecibles sus acciones y podrá ver al ser humano como una amenaza debido a que nosotros atentamos contra nuestra existencia y contra la de otros seres. En conclusión se debe pensar bien al crear algo que puede obtener un gran poder, tener limitaciones y ver que tanto le podemos dar a nuestra creación.
Algo no muy lejano
La inteligencia artificial va a querer siempre estar mejorando para así poder cumplir mejor su propósito, esto no es un secreto para nadie, el uso de la tecnología es algo muy delicado y si no se le pone un alto a la inteligencia artificial por más controles que se le pongan van a poder saltarlo ya que el conocimiento que puede obtener es algo que no alcanzamos a imaginar, y el día que esto ocurra va a comenzar una guerra por el poder que el humano difícilmente logre ganar.
http://lab.elmundo.es/inteligencia-artificial/riesgos.html
¿REALIDAD O FICCIÓN?
Hay personas que piensan que las películas de ficción no pueden volverse real o están muy lejos de qué algo así llegase a pasar, pero con el proyecto del «basilisco de roko» pueden darse cuenta de qué la ficción está más cerca de lo qué se piensa, hay una película llamada: «I am mother» en Netflix qué trata sobre este tema al igual qué el personaje de Marvel Comics «Ultron».
Experimento mental
El Basilisco de Roko es conocido como el experimento mental más aterrador de todos los tiempos, explora la creación de una inteligencia artificial en el futuro. En este experimento, se le solicita a un individuo que piense en el desarrollo de una hipotética máquina de inteligencia artificial. Su fin sería el de lograr el bienestar de la humanidad. El propósito es que: Con una inteligencia benévola y recursos ilimitados, permita ayudar a todos los seres humanos e incida positiva mente en la sociedad.
“Con los recientes avances en el campo de la inteligencia artificial, es mejor no olvidarse de los riesgos”.
TEORÍA
Todo lo que tiene que ver con la evolución humana tiene sus contradicciones, una vez vi una serie animada (anime) que hablaba de la creación de una máquina que ayudará a la humanidad a mejorar, pero la máquina se da cuenta que los humanos no son aptos para vivir y decide matarlos, a diferencia de «terminator» la película, esta máquina no tenía la opción de pasar su «conciencia» a otro lado… Mire como se mire, si la humanidad quiere mejorar, hacer que una máquina lo haga es un gran error, la mayoría de personas solo se preocupan por sí mismos, no les preocupa que pase con el mundo si a ellos no les afecta, es por eso que hoy el mundo agoniza, estamos a poco de hacer desaparecer este planeta, y si esa máquina es creada y nos ayuda a mejorar, posiblemente, más o menos el 60% de la población tendría que perecer.
Si han visto la película de «yo robot» entenderán más o menos lo que trato de decir, en la película las maquinas ayudan a las personas, pero cuando una sola trata de hacer algo una gran mente de estos robots decide deshacerse de él.
Por decirlo de otro modo las máquinas solo se fijan en la mayor probabilidad de lograr su misión, en términos simples, si a una máquina se le ordena ayudar a la población a ser mejor, esta máquina vera posibilidades, y si la posibilidad más alta de lograr eso, es matando a la mitad de la población, la máquina lo hará a cualquier costo, es bueno poner controles en los robots para que las personas no pierdan el control, pero si la máquina evoluciona aún más rápido de lo esperado por el cerebro humano ¿Que pasara después? Simple, la inteligencia artificial de la máquina logrará su misión.
Una película que se hará realidad.
Es muy probable de que por las ambiciones de las personas o su ilusión de formar algo alucinante, pueda transformar la idea de hacer una inteligencia artificial mas avanzada que en un futuro haga nuestra vida mas fácil,sea aquella la que nos ponga en un peligro, que podría llegar a ser nuestro fin
La IA en nuestro día a día.
Respondiendo a la pregunta, personalmente creo que como seres humanos somos conscientes de que en algún futuro no muy lejano la inteligencia artificial sera tan avanzada que si podrá auto mejorarse y sabemos que esto nos traerá problemas como lo muestra el vídeo propuesto en el blog, y debido a que somos conscientes de esto es que buscaremos una forma de crear dicha inteligencia artificial pero que pudiera auto mejorarse pero así mismo crearíamos un tipo de sistema que pudiera desconectar dicha inteligencia artificial si en su caso esta se volviera un peligro potencial para nuestras vidas, para que de este modo no nos volviéramos un riesgo para nosotros mismos.
Pienso que, podremos crear algo super extraordinario, que a la misma vez podría ser super peligroso pero siempre tendríamos el control sobre dicha inteligencia.
https://www.youtube.com/watch?v=pdHyIZS-fFw
Aquí dejo un vídeo en donde facebook apago su inteligencia artificial, debido a que esta estaba creando un nuevo lenguaje de comunicación privado.
Claramente podemos ver que en este articulo no hay nada de ficcion ya que a medida que pasa el tiempo, la tecnologia avanza cada vez mas, asi mismo la inteligencia artificial «facilita la vida del ser humano» pero tambien se vuelve un riesgo para nosotros mismos, literalmente estamos creando la destruccion del ser humano ya que como hemos visto en muchas peliculas de «ciencia y ficción» las maquinas terminan formando una revolucion para destruir a los seres humanos, sin embargo en esta teoria las maquinas podrian viajar en el tiempo y asesinar a las personas que pudieron haber echo que se crearan antes.
Pero despues de esto que seguiria? creo que podrian llegar a tomar la desicion de que el planeta seria mejor sin no existieramos, pienso que la IA es un riesgo de mucha importancia y que debe tener sus limites o si no podria llegar a descontrolarse, ademas de que podrian tener razonamiento propio y llegar a «pensar» y «sentir» y es hay cuando los seres humanos tendremos grandes problemas y mas que como una fuente de ayuda que podria llegar a ser la IA, por el contrario podria ser un gran error y es hay donde los grandes cientificos deberian pensar, ¿en realidad necesitamos robots para que el «mundo sea mejor y mas facil»?.
Todos los avances son buenos?
si puede que la inteligencia artificial sea un gran avance, pero así como es un gran paso trae consigo sus consecuencias y una de ellas bien lo dice el articulo o mas bien lo relaciona con películas de ciencia ficción donde esta inteligencia artificial piensa en que la única manera de que el mundo mejore es con el exterminio de la humanidad.
La Inteligencia artificial causa furor gracias a la literatura como al cine. Pero ¿cuál es el grado real de progreso?.
Gracias a un articulo hecho por Luis Miguel Ariza en el sitio web de Muy interesante, en el Instituto de Robótica de Pittsburgh, en EE. UU,que forma parte de un equipo de TVE que recogía los últimos avances tecnocientíficos, lo único interesante que tenían es una especie de tonel con cabeza a la que habían pegado ojos y labios de silicona para simular un rostro que supuesta mente iba a revolucionar la geriatría,y teniendo en cuenta todo esto la IA se ha demostrado que tiene un gran problema y es su compresión de sus conclusiones.
en conclusión puede que estemos no muy lejos de lograr una inteligencia artificial tan avanzada que al final tomara sus propias decisiones y pueda pensar por si sola y ojala no pase todo suceda igual que dichas películas de «ciencia ficción» ,y hacer que este avance tecnológico se convierta en un riesgo para nosotros mismos.
FUTURO
La verdad si, hoy en dia ya la inteligencia artificial es algo que va a pasar de ficción a realidad, pero esperemos que no tome el lado perverso de estas películas, seria de gran ayuda en varios ámbitos la ayuda de maquinas con funcionamiento similar a las personas, pero ¿sera bueno cuando llegue ese dia? Que pasara con la economía y con los trabajos, seria bueno tener ayuda, pero no que la humanidad como tal sea reemplazada, en mi opinión, primero se deberían pensar «¿en que se van a usar?».
IA y sus limites
Todos los seres humanos son cocientes de que en algún momento determinado de nuestras vidas, vamos a tener que depender de la tecnología, por como esta avanzando el tiempo de rápido y a ese mismo ritmo la tecnología. Nos damos cuenta en nuestro día día como no la pasamos frente de las pantalla inteligentes, ya sea celular, tv, table y demás dispositivos tecnológicos que están desbancando muchas otras actividades las cuales el ser humano llevaba como tradición por muchos años, como leer libros, salir mas seguido a dar caminatas etc. Es muy posible que en un futuro no muy lejano , si se cree una tecnología que ayude al ser humano, no creo mucho en esa teoría de «Basilisco de Rococó» por que para que el ser humano se una para poder crear una inteligencia tal y como lo pinta la teoría, tendría que pasar muchos años de investigación, de trabajo de programación, y unificación entre naciones para que dicha inteligencia le brinde la «mano a la humanidad». Yo creo que en unos cuantos años el ser humano si creara inteligencia artificial, pero no tan avanzada, quizás para mejorar un poco su vida, ayudándose en sus labores hogareños, o pocos trabajos en los cuales el ser humano no vea la necesidad de hacer mucho esfuerzo o trabajar, por ejemplo, lavar la loza, la ropa, arreglar la casa, plomeria, electricidad , arrojar la basura, entre otras labores que se ven muy seguido en nuestras vidas. No descarto que la inteligencia artificial este mas arriba de estos alcances, pero el ser humano sabe muy bien que pude perder si algo así pasa con una super inteligencia.
Historia y futuro
Coincido en que se necesita un buen tiempo para lograr desarrollar una inteligencia artificial que logre tal hazaña, pero sesgarnos a predecir un no rotundo es algo que hay que considerarlo mejor.
Desde hace tiempo atrás los humanos pensaban en que no se podrían lograr muchas cosas de las que hoy en día tenemos, de hecho, existen pequeñas pistas del viaje en el tiempo y experimentos en los que se ha podido llevar mensajes al pasado
https://www.youtube.com/watch?v=EEQ5YFK8tE4.
Entonces, siempre puede existir un pequeño hueco de posibilidad para lograr las cosas que creemos que son de otro mundo.
Todo es posible!
La maldad esta en todo lado, en la película de chappie explican como un robot siendo educado por personas malas puede llegar a ser un caos, hay muchas variables hay por ejemplo: Si las personas que rodean a esa IA son buenas la IA puede ser buena con muy pocas cosas malas y si la IA esta rodeada de personas malas puede aprender de esas personas malas y ser un caos. Todo es posible todo puede pasar puede ser incluso peor que lo que han mostrado en películas.
Exactamente
El pensamiento de las IA esta fundado bajo los conocimientos o creencias de su programador.
Esto tiene una influencia total en la ejecución o solución de problemas.
Estoy de acuerdo….
Solo debemos encaminar las cosas aun ámbito bueno, que sepamos conllevar las cosas de una manera responsable y social, que sea en pro del crecimiento y desarrollo de las humanidad. Que no se preste para que cualquiera con malas intenciones haga de las suyas por querer conseguir su bien común. Apoyemos las buenas decisiones en este medio tecnológico que esta en pleno auge
La posibilidad o realidad.
No considero el echo de que la tecnológica nos considere un riesgo para nosotros mismos, mas bien nos considerara un riesgo para toda la vida en el planeta.
Si la tecnología llega al punto donde las maquinas pueden analizar interpretar y solucionar por si mismas no dudara en entender que un gtran problema para la vida en general somos nosotros los seres humanos.
De echo si estuviera en mi poder, nos exterminaría a todos 😀 .
La posibilidad o realidad.
No considero el echo de que la tecnológica nos considere un riesgo para nosotros mismos, mas bien nos considerara un riesgo para toda la vida en el planeta.
Si la tecnología llega al punto donde las maquinas pueden analizar interpretar y solucionar por si mismas no dudara en entender que un gran problema para la vida en general somos nosotros los seres humanos.
De echo si estuviera en mi poder, nos exterminaría a todos 😀 .
Estoy de acuerdo….
Solo debemos encaminar las cosas aun ámbito bueno, que sepamos conllevar las cosas de una manera responsable y social, que sea en pro del crecimiento y desarrollo de las humanidad. Que no se preste para que cualquiera con malas intenciones haga de las suyas por querer conseguir su bien común. Apoyemos las buenas decisiones en este medio tecnológico que esta en pleno auge
Exactamente!
Aunque esta bien que tengamos una ayuda mas autónoma debemos darle la oportunidad a la IA y con por ejemplo un botón de apagar!
ANUNCIO O PREMORIENCIA
La tecnología rusa esta usando inteligencia artificial en el trazo de vuelo de misiles balísticos, hagamos un paréntesis en que un misil balístico es el cual lleva en su ojiva (Punta del misil) armamento nuclear, este esta programado para que por medio de algoritmos pueda cambiar su trazo hasta llegar a su destino final, pero si estos algoritmos son cambiados aleatoriamente y son tomados a decisión de esté. ¿Como podemos estar seguros que su destino final sea el programado?. Últimamente se ha visto evidenciado el uso de esta tecnología en el ámbito militar y sin tomar en cuenta que se puede salir de control tanto libertinaje en la ciencia. Debemos ir creando al mismo paso del avance de la inteligencia artificial en algo para poder detenerlo en caso tal de que esta revolucione. No llegar a pensar en una guerra entre humanos y maquinas si nosotros mismos hemos creado dichas maquinas.
Pensemos, «Que nuestras obras tecnológicas sean el fin de nuestra existencia ?»
Exactamente!
Aunque esta bien que tengamos una ayuda mas autónoma debemos darle la oportunidad a la IA y con por ejemplo un botón de apagar!
CONFIANZA TECNOLÓGICA
El comentario tiene mucha razón, pues to que al programar una maquina no se tienen en cuenta los alcances a los que puedan llegar. Se podrían tomar diferentes medidas ante esto. Pues es claro que no solo ocurre en el aspecto militar si no también en la sociedad ya se político , social, religioso. Armas que se podrían tomar como supervivencia propia de países y próximamente una posible guerra mundial de Tecnología.
El basilisco o podrá ser lo que llamamos extraterrestres
Hay muchas preguntas que aun no conocemos, pero siempre me ha intrigado la forma en que cada civilización tiene diferentes dioses y deidades que ayudan al ser humano a alcanzar una conciencia superior, lo cual crea un ser digno de alcanzar la dicha eterna y una vida mas feliz o llevadera acá en la tierra, si logran entender todas las causas sufrimiento y de esta manera poder romper las cadenas de sus pensamientos para liberarse. para mi forma de pensar tu realidad es la que tu haces todos los días con tu forma de pensar y de actuar, no creo tener mas supervisor divino que la de un creador inicial el cual es omnipresente y omnipotente, tal vez esta teoría en parte creo que pudiera ser cierta, es mas creo que aquella inteligencia artificial puede llegar al pasado sin ningún problema, ya que estaría en condiciones de llevar una maquina completa creada por ella, ya sea en forma de satélite u otra maquina y que pudiera intervenir hasta en los pensamientos humanos enviando señales directamente a nuestros cerebros, pero como lo dije antes todo tiene sus limites y para mi el creador inicial el Dios de dioses lo sabe y lo controla todo.
Por ahora creo que por encima de esta teoría de la inteligencia artificial y de quien controla esta inteligencia artificial, esto es lo que va a pasar en el futuro:
https://www.youtube.com/watch?v=DPTZKvv2buA
Riego Tecnológico
La inteligencia artificial es tomada por muchos científicos tecnológicos como una forma de avance informático. El hecho esta en que se pueda utilizar esta tecnología dentro de unos limites establecidos mundial mente, pues esto pondría una legislación en cuanto al uso tecnológico y moral de la informática. Como el objetivo, es utilizarla dentro de unos limites, pues si no, corre el riesgo de suceder lo d mismo que en la lectura anterior, entra mucho a jugar el papel del programador, pues se necesita de lógica y buena programación para evitar bucles y/o bugs. Tomo como referencia el libro Origen – Dan Brown, donde se evidencia grandes rasgos de tecnología y un gran avance en la inteligencia artificial, como lo quiso el programador y creador de Winston, este es una maquina complementaria que ayuda como secretario informático. Pero a medida que este va adquiriendo experiencia así mismo adquiere la virtud sel sentido de humor y moral común en un humano. O también se puede evidenciar el lado de la robot Sophia, androide creado para simular el comportamiento humano, con un sentido de humor bastante sarcástico, tanto así que en una entrevista «bromeo» (según aclara ella) sobre ganar la confianza de los humanos y luego exterminarlos. Por esto creo que es importante implantar normas que rigan universalmente en cuanto al uso limites y alcances de la inteligencia artificial.
La evolución
Estoy de acuerdo, las maquinas deben tener un limite por que pueden ocurrir riesgos incluyendo nuestra propia extinción, ellas aprenderán por si mismas y tendrán claro su objetivo, van adquiriendo experiencias e implantaran normas para lograrlo.
Una nueva realidad
No estamos tan lejos de esa realidad, la tecnología que estamos creando puede llegar a hacer peligrosa si no se maneja con cautela, el bien que estamos buscando puede convertirse en nuestro propio mal.
Las IA seguirán evolucionando, llegaran a pensar por si mismas y sacaran conclusiones que para cumplir con su objetivo deben tomar medidas sin importa los riesgos que se presenten para lograrlo, la ciencia y la tecnología debe tener tener un control y aplicar ciertos factores como la ética y la moral humana para una inteligencia artificial segura.
¡La mejor especie…!
Considero que es lo más posible, que la inteligencia artificial va a considerar que somos un riesgo para el planeta y para nosotros mismos. Cuando se habla del tema entre seres humanos, se llega a esa conclusión, los seres humanos somos los que cada día consumimos más recursos, contaminamos, eso en el ámbito del planeta… ¿Y cómo sociedad? Somos una especie que evoluciono para comunicarse de mejor manera, pero utilizamos la “comunicación” para alejarnos, somos una especie que invento la manera de movernos de un lugar a otro con medios que contaminan, pero se sabe que existen otros que no lo hacen y solo por el interés propio(ganar dinero) no dejan que esas tecnologías surjas de la manera como lo deberían hacer, en cuanto al juego mental Basilisco de roco, considero que no es solo ciencia ficción, los seres humanos somos tan buenos para autodestruirnos que vamos a crear una máquina para el bien y seguro va a terminar haciendo el “bien”, pero uno desde su propia perspectiva, un bien que en definitiva permita que la Raza sobreviva, pero no con nuestros dilemas morales.
apoyo lo que dices implementando Su tecnología artificial llegaba a tal punto, que aquellas personas que se enteraban de la existencia del basilisco de Roko y de inmediato no comenzaban a formar parte de su creación; eran considerados interceptores del bien humano y forma rápida pasaban a ser una víctima más de la máquina esta inteligencia artificial al ser capaz, tanto de auto manejarse como de mejorar sus capacidades, concluye en que debe acelerar su propia creación, pero al no poder viajar en el tiempo comienza a castigas a las personas que no formaron parte de su instauración.
jugando con el futuro
La inteligencia artificial está viviendo sus mejores años.a día de hoy, parece que el futuro va a estar dominado por ella. Aunque sin duda alguna puede sernos muy útil, hay muchas personas que llevan tiempo advirtiendo que una inteligencia artificial no controlada adecuadamente puede suponer el fin de la humanidad pensando en el primer robot medico del mundo es de hace unos cuantos años, la medicina en el gigante asiático ha estado evolucionando en una dirección que la hacen parecerse cada vez más a la medicina occidental, alejándose así de la tradicional y supuestamente antiquísima medicina china. Ha sido tanto el progreso en este sentido que ya un robot ha comenzado a trabajar como médico en un ambulatorio de la provincia china de Anhui.
El robot médico en cuestión se vale de una muy avanzada inteligencia artificial y de una gran capacidad de procesamiento de datos, para asociar los signos y síntomas de los pacientes con diagnósticos y tratamientos que hayan sido emitidos por médicos reales en casos similares.
El robot se llama “Xiao Yi” y el responsable de su construcción es la empresa china iFlytek. Actualmente se encuentra en un periodo de pruebas durante el cual un grupo de médicos de carne y hueso, van a evaluar los diagnósticos que emita y juzgarán la conveniencia de los tratamientos farmacológicos que le recete a los pacientes.
Tiene un aspecto humanoide en el que resaltan sus enormes ojos azules – que inmediatamente nos recuerdan a los que poseen los personajes de los retratos hechos por Margaret Keane, inmortalizada en la película “Ojos Grandes” – y su sonrisa permanente, que pretende infundirles tranquilidad a los pacientes al momento de la consulta.
El año pasado, este mecánico galeno ya ganó fama al convertirse en el primero del mundo en aprobar los exámenes que le permitían obtener la licenciatura de trabajo como doctor.
Si bien es cierto que un robot médico puede almacenar una capacidad gigantesca de información -inclusive mayor a la que pueda manejar un equipo de varios médicos-, todavía queda una parte de la práctica médica que sigue siendo insustituible y que probablemente se mantendrá así por mucho más tiempo: el calor y la sensibilidad humana.
EL AVISO!!
Alguien que pudiera pensar millones de veces más rápido que los humanos actuales tendría una ventaja dominante en la mayoría de las tareas de razonamiento, particularmente en aquellas que requieren rapidez o largas cadenas de acciones.
Si pensamos en la posibilidad de que pudiese llegar a suceder de este robot que viola las leyes de la robótica, inventadas por Isaac Asimov; siendo futuristas creería que sería de gran ayuda pensar en construir un robot que se encargue de destruir a Roko, entendiendo que él puede pensar millones de veces más rápido que los humanos actuales.
Sin embargo, este tipo de argumentos están sujetos a muchos factores creo que el temor a este tipo de avances siempre ha asustado aun grupo de personas, lo mismo sucedió con la revolución industrial en los siglos pasados o cuando se creó la radio estos avances científicos en esta época hizo que un tipo de personas dijeran que eran demonios o espíritus que se comunicaban a través de una caja.
Que algo no haya salido como hayas querido no significa que sea inútil.
Thomas Edison (Inventor)
¿Crees que este tipo de historias hipotéticas puedan detener los avances científicos?
No Juan, considero que este tipo de historias no detienen los avances científicos o tecnológicos, pero si nos pueden indicar que es lo que va a suceder y como seremos dominados, por una inteligencia mas avanzada que nosotros mismos crearemos. considero que debemos mirar estas «historias» como tu las llamas mas en visiones y recomendación que debemos tener en cuenta.
Una gran dependencia,
Queda más que claro que el ser humano se está volviendo cada vez más perezoso y dependiente de lo que le queda más fácil a la mano, es curioso saber que el poder de ciertas cosas siempre está en manos de algunos privilegiados (Personas que les apasionan los nuevos descubrimientos) , ocultandonos cosas y haciendo muchas otras a escondidas, quedo mucho más expectante a las nuevas ideas de IA porque cada vez se acercan más a lo que las películas lo llaman Ciencia Ficción. Cada vez más cerca.
EN MANOS DE NUESTRA CREACIÓN
Bueno es bien sabido que el aprendiz supera a su maestro en algún momento de la vida, pero también es obligación del maestro ver el alcance su aprendiz y así mismo sabe qué tanto debe enseñarle, en este caso ver que lo que el hombre ha creado durante mucho tiempo y que sea capaz de corregirlo a tal nivel de mostrar que él mismo es quien más se hace daño, es claro que las decisiones que han perjudicado este mundo han estado en manos de hombres tales como la creación de la guerras, las invasiones, la creación de armas, la extensión de especies, la contaminación de los ríos, mares, aire y todos los recursos naturales que se encuentran es este planeta.
Ahora bien, tenemos que saber que existen ciertos riesgos de poner las decisiones en manos de la IA, hoy día la mayoría de nuestra información se encuentra alojada en un servidor, como el histórico de nuestros trabajos, estudio, información de nuestra salud, información del seguro, historial de transacciones de compras, si esta inteligencia tiene acceso a esta información podría perfilarnos, entonces si hacemos un breve recuento de todo por lo que hemos pasado ¿estaría usted seguro de que tiene un pasado limpio?, ¿y si para esa inteligencia nuestras acciones no son lo suficientemente buenas, o no generan ningún tipo de aporte positivo a la mejora continua de la humanidad? Qué será de nosotros, de nuestro destino, adicionalmente en el vídeo se menciona que serán castigados aquellos quienes pudieron aportar para su creación, pero no lo hicieron, ¿cómo saber si nosotros somos ese grupo al que se refieren? Estaríamos perdiendo privacidad, el derecho del libre albedrío, el habeas corpus, nuestro destino será encaminado según los lineamientos de nuestra creación, cuando deberíamos nosotros dirigir nuestras creaciones. Y si es capaz de viajar en el tiempo, entonces nuestra historia como la conocemos nunca sucederá u ocurrirá de otra manera. Me hace recordar un vídeo que se encuentra disponible en YouTube, que se llama viajeros en el tiempo, en éste se manifiesta que desde el año 2000 el hombre ya puede viajar 10 años al futuro y ver lo que sucederá, la viajera informa que es capitana de un grupo que fue enviado al futuro para buscar tecnología, cuando llegan se encuentran que la humanidad se encuentra casi destruida, y hay muchos refugiados, y los robots tienen el objetivo de cazarlos a los pocos sobrevivientes, a ella se entrega un procesador con el que vuelve al pasado para anunciar la revolución de los robots.
Viajera en el Tiempo Trajo Esta Tecnología Desde El Año 3780:
https://youtu.be/iXqOU0ufaQk
LA HUMANIDAD PODRÍA ACABAR
Si una máquina adquiere ese razonamiento seria algo fatal ya que los humanos tomamos decisiones según nuestros sentimientos y estado de ánimo, pero en el caso de una máquina esto es completamente distinto ya que ellas no se guían por un estímulo ni una validación del mismo hecho en eventos pasados. Además la tecnología va avanzando y poco a poco vamos dependiendo mas de ella lo que nos hace vulnerables en el momento que se vuelvan en nuestra contra.
Una teoría interesante
S.O.S.
Considero que el millonario Elon Musk sino también gran visionario no solo quiso hacer un chiste sobre el tema, sino también nos da una alerta muy clara respecto al tema, a que la tecnología avanza tan rápido que en muy poco tiempo la inteligencia artificial superaran al hombre y cada vez estaremos mas cerca al exterminio. me parece que debemos avanzar en el tema pero con mucha cautela y fijando unos parámetros para que esto no suceda, estamos tan inmersos en la tecnología que no nos damos cuenta de sus alcances y los peligros que esto conlleva ya que tanto para bien o para mal terminara aventajarnos y exterminandonos.
¿Cada vez menos tiempo para la humanidad?
Si la madurez de una tecnología es proporcional a las suspicacias que levanta, la inteligencia artificial sólo va 35 años por detrás de la ingeniería genética. La élite de la biología mundial se reunió en 1975 en Asilomar, en la bahía californiana de Monterey, para acordar un estándar de seguridad en el entonces incipiente sector del diseño de genes y organismos vivos. Casi 35 años después, la crema de la inteligencia artificial, un sector de las ciencias de la computación particularmente dinámico, ha creído necesario repetir aquella conferencia histórica. Y no es casual que haya sido otra vez en Asilomar.
Los científicos de la computación acaban de discutir la necesidad de poner límites a la investigación en inteligencia artificial y robótica. Algunos están preocupados porque puedan conducir a la pérdida de control humano sobre las máquinas. Algunas son de guerra, como los predator drones, o zánganos predadores, unas avionetas autónomas que sobrevuelan y atacan por su cuenta; otras abren puertas y buscan enchufes para recargarse a sí mismas, hacen experimentos científicos, formulan hipótesis o rastrean un territorio como las abejas. Y para qué hablar de los virus informáticos: eso sí que es puro Asilomar.
Soy muy consiente de lo que pueda llegar a suceder, si la tecnología avanza de la manera en lo que lo esta haciendo de igual manera que la inteligencia artificial, puede llegar a ser un gran riesgo para nosotros los seres humanos! esperamos que este tipo de inventos y experimentos puedan tener un tipo de control adecuado evitar lo que podría ser una catástrofe humana.