Sztuczna inteligencja jako instrument intensyfikacji zagrożeń hybrydowych w domenie informacyjnej

• Autorzy: Karol Kumalski

Warianty tytułu

Artificial Intelligence as an Instrument of Intensification Hybrid Threats in the Information Domain

• Języki publikacji: PL

Abstrakty

Ze względu na swój polimorficzny i wielowymiarowy charakter zagrożenia hybrydowe stały się użytecznym narzędziem implementowanym w szarej strefie interakcji między państwami autorytarnymi i demokratycznymi. Jednocześnie spektrum tych zagrożeń może być dynamicznie ulepszane i poszerzane dzięki rozwojowi technologicznemu. Sztuczna inteligencja jest jednym z czynników, które mogą zintensyfikować siłę i zasięg zagrożeń hybrydowych. Wykorzystując model koncepcyjny zaproponowany przez Europejskie Centrum Doskonałości w zakresie Przeciwdziałania Zagrożeniom Hybrydowym (Hybrid coe), można określić potencjał sztucznej inteligencji w zakresie oddziaływania na domenę informacyjną. Właśnie tam możliwe jest wykorzystanie tej technologii do manipulowania przestrzenią informacyjną, głównie poprzez dezinformację i ingerencje. Dla realizacji tego celu może ona pełnić funkcje analityczno-decyzyjną, narracyjną i aksjologiczną, uderzając w podstawy demokracji oraz zniekształcając i podważając relacje między państwem a społeczeństwem. Warto również zauważyć, że o ile do tej pory głównymi operatorami operacji hybrydowych były państwa, o tyle rozwój tej technologii może zwiększyć znaczenie aktorów niepaństwowych, ponieważ stanie się ona dla nich bardziej dostępna. (abstrakt oryginalny)

EN

Due to polymorphic and multidimension character, hybrid threats became an useful tool implemented in grey zone of interaction between authoritarian and democratic states. Simultaneously, their spectrum might be dynamically upgraded and expanded, thanks to technological development. Artificial intelligence is one of these tools, which can intensify power and range of hybrid threats. Using a conceptual model proposed by the European Centre of Excellence in Countering Hybrid Threats (Hybrid coe), it is possible to determine the potential of artificial intelligence in influencing an information domain. There, it could be used to manipulate an infosphere, mainly through disinformation and interference. For this purpose ai can play analytical-decision making, narrative and axiological functions by striking the foundations of democracy and distorting and undermining relations between state and society. It is also worth to note, that while so far states have been the main operators of hybrid operations, the development of this technology may increase the non-state actors importance as this technology will become more accessible for them. (original abstract)

Słowa kluczowe

PL

Sztuczna inteligencja; Dezinformacja; Zagrożenia rozwojowe; Wojna hybrydowa; Stosunki międzynarodowe

EN

Artificial intelligence; Disinformation; Development risk; Hybrid war; International relations

• Czasopismo: Sprawy Międzynarodowe
• Rocznik: 2022
• Tom: 75
• Numer: nr 2
• Strony: 93--123

Twórcy

autor

Karol Kumalski

• Uniwersytet Marii Curie-Sklodowskiej w Lublinie

Bibliografia

• Artificial intelligence and international affairs. Disruption anticipated, ed. M. L. Cummings, H. M. Roff, K. Cukier, J. Parakilas, H. Bryce, The Royal Institute of Foreign Affairs, London 2018.
• Baum S., Goertzel B., Goertzel T., How long until human-level AI? Results from an expert assessment, "Technological Forecasting & Social Change" 2011, vol. 78, issue 1.
• Ben-David A., Matamoros-Fernández A., Hate speech and covert discrimination on social media: monitoring the Facebook pages of extreme-right political parties in Spain, "International Journal of Communication" 2016, vol. 10: <https://ijoc. org/index.php/ijoc/article/download/3697/1585> [dostęp: 7 I 2022].
• Bostrom N., Superinteligencja. Scenariusze, strategie, zagrożenia, Helion, Gliwice 2016.
• Botha J. G., Pieterse H., Fake news and deepfakes: a dangerous threat for 21st century information security, [w:] Proceedings of the 15th International Conference on Cyber Warfare and Security, Old Dominion University, Norfolk, Virginia, USA, 12-13 March 2020, ed. B. K. Payne, H. Wu, acpi, 2020:<http://hdl.handle.net/10204/11946> [dostęp: 12 I 2022].
• Brundage M., Avin Sh., Clark J., Toner H., Eckersley P., Garfinkel B., Dafoe A., Scharre P., Zeitzoff Th., Filar B., Anderson H., Roff H., Allen G. C., Steinhardt J., Flynn C., hÉigeartaigh S. Ó, Beard S., Belfield H., Farquhar S., Lyle C., Crootof R., Evans O., Page M., Bryson J., Yampolskiy R., Amodei D., The malicious use of artificial intelligence: forecasting, prevention, and mitigation, Future of Humanity Institute, University of Oxford, Centre for the Study of Existential Risk, University of Cambridge, Center for a New American Security, Electronic Frontier Foundation, Open ai, 2018: <https://arxiv.org/abs/1802.07228> [do- stęp: 23 VII 2020].
• Cummings M. L., Artificial intelligence and the future of warfare, [w:] Artificial intelligence and international affairs. Disruption anticipated, ed. M. L. Cummings, H. M. Roff, K. Cukier, J. Parakilas, H. Bryce, The Royal Institute of Foreign Affairs, London 2018.
• Danilin I., Emerging technologies and their impact on international relations and global security, "Hoover Institution" [online], 3 x 2018 [dostęp: 21 XI 2022]: <https://www.hoover.org/research/emerging-technologies-and-their-impact-internatio nal-relations-and-global-security>.
• Delcker J., ai: decoded: how Cambridge Analytica used AI - No, Google didn't call for a ban on face recognition - Restricting ai exports, "Politico" [online], 28 i 2020, [dostęp: 27 V 2020]: <https://www.politico.eu/newsletter/ai-decoded/politico- ai-decoded-how-cambridge-analytica-used-ai-no-google-didnt-call-for-a-ban-on-face-recognition-restricting-ai-exports/>.
• A Europe that protects: countering hybrid threats. Factsheet, "European Union External Action" [online], 13 VI 2018 [dostęp: 10 I 2022]: <https://eeas.europa.eu/topics/economic-relations-connectivity-innovation/46393/europe-protects-countering-hybrid-threats_en>
• Feldstein S., The global expansion of ai surveillance, Carnegie Endowment for International Peace, Washington 2019.
• Fundamental issues of artificial intelligence, ed. V. Muller, Berlin 2014.
• Galeotti M., I'm sorry for creating the "Gerasimov Doctrine", "Foreign Policy" [online], 5 III 2018 [dostęp: 13 XI 2022]: <https://foreignpolicy.com/2018/03/05/im-sorry-for-creating-the-gerasimov-doctrine/>.
• Giannopoulos G., Smith H., Theocharidou M., The landscape of hybrid threats: a conceptual model, European Commission, Luxembourg 2021: <https://www.hybridcoe.fi/wp-content/uploads/2021/02/conceptual_framework-reference-version-shortened-good_cover_-_publication_office.pdf> [dostęp: 11 I 2022]
• Herd G., Puhl D., Costigan S., Emerging security challenges: framing the policy context, "gcsp Policy Paper" 2013/5: <https://www.gcsp.ch/publications/emerging-security-challenges-framing-policy-content> [dostęp: 21 XI 2022].
• Hoffman F., Conflict in the 21st century: the rise of hybrid wars, Potomac Institute for Policy Studies, Arlington va 2007. Horowitz M., Artificial intelligence.
• International competition and balance of power, "Texas National Security Review" 2018, vol. 1, issue 3.
• Horowitz M., Allen G. C., Saravalle E., Cho A., Frederick K., Scharre P., Artificial intelligence and international security, Washington 2018: <https://www.cnas.org/ publications/reports/artificial-intelligence-and-international-security> [dostęp: 6 II 2022].
• Hybrid warfare, ed. M. Weissman, N. Nilsson, B. Palmertz, P. Thunholm, London 2021.
• The impact of artificial intelligence on strategic stability and nuclear risk, vol. 1: Euro-Atlantic perspective, ed. V. Boulanin, Stockholm International Peace Research Institute, Solna 2019.
• Kacała T., Dezinformacja i propaganda w kontekście zagrożeń dla bezpieczeństwa pań- stwa, "Przegląd Prawa Konstytucyjnego" 2015, nr 2 (24).
• Kanakia H., Shenoy G., Shah J., Cambridge Analytica - a case study, "Indian Journal of Science and Technology" 2019, vol. 12 (29): <https://indjst.org/articles/ cambridge-analytica-a-case-study> [dostęp: 7 I 2022].
• Kaplan J., Sztuczna inteligencja. Co każdy powinien wiedzieć, pwn, Warszawa 2019.
• Kertysova K., Artificial intelligence and disinformation: how AI changes the way disinformation is produced, disseminated, and can be countered, "Security and Human Rights" 2018, vol. 29.
• Kosiński M., Stillwell D., Graepel T., Private traits and attributes are predictable from digital records of human behaviour, "Proceedings of the National Academy of Sciences of the United States of America" 2013, vol. 110, No. 15: <https://doi. org/10.1073/pnas.1218772110> [dostęp: 26 V 2020].
• Kupiecki R., Dezinformacja w stosunkach międzypaństwowych. Geneza, cele, aktorzy, metody - zarys problemu, [w:] Platforma przeciwdziałania dezinformacji - budowanie odporności społecznej, red. R. Kupiecki, T. Chłoń, F. Bryjka, K. Kozłowski, J. Misiuna, J. Podemska, P. Podemski, Warszawa 2021.
• Lammertyn M., Argentine Peronist challenger seen winning presidency outright on October 27: polls, "Reuters" [online], 18 X 2019 [dostęp: 7 VI 2020]: <https://www.reuters.com/article/us-argentina-election-polls/argentine-peronist-challenger-seen- winning-presidency-outright-on-october-27-polls-iduskbn1wx23k>.
• Liedel K., Zagrożenia hybrydowe. Jak zmienia się środowisko bezpieczeństwa RP?, "Przegląd Bezpieczeństwa Wewnętrznego" 2015, wydanie specjalne: Wojna hybrydowa.
• Lindenberg G., Ludzkość poprawiona, Wydawnictwo "Otwarte", Kraków 2020.
• Mitchell T. M., Machine learning, McGraw-Hill, Ohio 1997.
• Muller V., Bostrom N., Future progress in artificial intelligence: a survey of expert opinions, [w:] Fundamental issues of artificial intelligence, ed. V. Muller, Berlin 2014.
• NATO's response to hybrid threats, "North Atlantic Treaty Organization" [online], 16 III 2021 [dostęp: 10 I 2022]: <https://www.nato.int/cps/en/natohq/topics_156338.htm>.
• Nilsson N., Weissmann M., Palmertz B., Thunholm P., Häggström H., Security challenges in the grey zone. Hybrid threats and hybrid warfare, [w:] Hybrid warfare, ed. M. Weissman, N. Nilsson, B. Palmertz, P. Thunholm, London 2021.
• Oksanowicz P., Przegalińska A., Sztuczna inteligencja. Nieludzka, arcyludzka, Wydawnictwo "Znak", Kraków 2020.
• Pasquarelli W., Finding legitimacy in the age of ai: challenges & opportunities, "Centre for Public Impact" [online], 18 X 2018 [dostęp: 24 IV 2020]: <https://www.cen- treforpublicimpact.org/finding-legitimacy-age-ai-challenges-opportunities/>.
• Pietraś Z. J., Sztuczna inteligencja w politologii. Heurystyczne modelowanie procesów adaptacji politycznej, Wydawnictwo Uniwersytetu Marii Curie-Skłodowskiej, Lublin 1990.
• Platforma przeciwdziałania dezinformacji - budowanie odporności społecznej, red. R. Kupiecki, T. Chłoń, F. Bryjka, K. Kozłowski, J. Misiuna, J. Podemska, P. Podemski, Warszawa 2021.
• Proceedings of the 15th International Conference on Cyber Warfare and Security, Old Dominion University, Norfolk, Virginia, USA, 12-13 March 2020, ed. B. K. Payne, H. Wu, acpi, 2020.
• Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/we (ogólne rozporządzenie o ochronie danych), "Dziennik Urzędowy Unii Europejskiej", 4 V 2016, L 119: <https://eur-lex.europa.eu/legal-content/pl/ txt/pdf/?uri=celex:02016R0679-20160504&from=en> [dostęp: 28 VII 2020].
• Rumer E., The Primakov (not Gerasimov) doctrine in action, Carnegie Endowment for International Peace, Washington 2019: <https://carnegieendowment.org/2019/06/05/primakov-not-gerasimov-doctrine-in-action-pub-79254> [dostęp: 9 I 2022].
• Sauer F., Military applications of artificial intelligence: nuclear risk redux, [w:] The impact of artificial intelligence on strategic stability and nuclear risk, vol. 1: Euro-Atlantic perspective, ed. V. Boulanin, Stockholm International Peace Research Institute, Solna 2019.
• Sheppard L., Karlén R., Hunter A. P., Balieiro L., Artificial intelligence and national security. The importance of the AI ecosystem, CSIS, Washington 2018.
• Somers M., Deepfakes, explained, "mit Sloan School of Management", 21 VII 2020 [dostęp: 8 I 2022]: <https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained>.
• Spiegeleire S. de, Maas M., Sweijs T., Artificial intelligence and the future of defence,The Hague Centre for Strategic Studies, The Hague 2017.
• Tegmark M., Życie 3.0. Człowiek w erze sztucznej inteligencji, Prószyński i S-ka, Warszawa 2019.
• Wniosek Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji (Akt w sprawie sztucznej inteligencji) zmieniające niektóre akty ustawodawcze Unii, "Eur-Lex" [online, dostęp: 13 XI 2022]: <https://eur-lex.europa.eu/legal-content/pl/txt/pdf/?uri=celex:52021pc0206&from=pl>.
• Woznicki K., The politics of artificial intelligence. An interview with Louise moore, "Eurozine" [online], 23 X 2018 [dostęp: 18 V 2020]: <https://www.eurozine.com/politics-artificial-intelligence/>.
• Zhou Z., Makse H., Artificial intelligence for elections: the case of 2019 Argentina primary and presidential election, 24 X 2019 [dostęp: 7 VI 2020]: <https://arxiv.org/ pdf/1910.11227.pdf>.

Identyfikatory

DOI

10.35757/sm.2022.75.2.06