Does “AI” stand for augmenting inequality in the era of covid-19 healthcare?

Leslie, David; Mazumder, Abhishek; Peppin, Aidan; Wolters, Maria; Hagerty, Alexa

doi:10.1136/bmj.n304

Cited by 94 publications

(73 citation statements)

References 31 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…For example, the ethical problems created by inequitable or discriminatory algorithms in the healthcare context are well-established, despite presumably being intended to improve care. [26][27][28] Even if a company has a 'good will' or beneficent motives or commitments, their conception of what is in the best interests of patients and society may be mistaken.…”

Section: Trust and Trustworthiness In Commercial Companiesmentioning

confidence: 99%

Data for sale: trust, confidence and sharing health data with commercial companies

Graham

2021

J Med Ethics

View full text Add to dashboard Cite

Powered by ‘big health data’ and enormous gains in computing power, artificial intelligence and related technologies are already changing the healthcare landscape. Harnessing the potential of these technologies will necessitate partnerships between health institutions and commercial companies, particularly as it relates to sharing health data. The need for commercial companies to be trustworthy users of data has been argued to be critical to the success of this endeavour. I argue that this approach is mistaken. Our interactions with commercial companies need not, and should not, be based on trust. Rather, they should be based on confidence. I begin by elucidating the differences between trust, reliability, and confidence, and argue that trust is not the appropriate attitude to adopt when it comes to sharing data with commercial companies. I argue that what we really should want is confidence in a system of data sharing. I then provide an outline of what a confidence-worthy system of data sharing with commercial companies might look like, and conclude with some remarks about the role of trust within this system.

show abstract

Section: Trust and Trustworthiness In Commercial Companiesmentioning

confidence: 99%

Data for sale: trust, confidence and sharing health data with commercial companies

Graham

2021

J Med Ethics

View full text Add to dashboard Cite

show abstract

“…Bu durumda algoritma destekli karar süreci sınırlı bir kaynağın COVID-19 ile mücadelede etkili kullanılamamasına sebep olmuştur. Leslie ve arkadaşları da [15] geri bildirim döngüsü çerçevesinde tartışılabilecek bir soruna işaret etmektedirler. COVID-19 salgınıyla mücadele kapsamında kimi mahkumların ev hapsine gönderilmesi sürecinde algoritmik yanlılığın sebep olabileceği sorunlara değinmektedirler.…”

Section: Araştırma Sorusu 2: Algoritmik Yanlılığın Covid-19 Ile Mücadele Bağlamında Yaratabileceği Potansiyel Sorunlar Nelerdir?unclassified

“…COVID-19 sürecinde algoritma yanlılığının etkilerini düşürmek için verinin farklı ülkelerde farklı kurumlar tarafından kullanılabiliyor olmasının önemli bulunduğu anlaşılmaktadır. Röösli, Rice & Hernandez-Boussard tarafından "Küresel araştırmacılar tarafından erişilebilir, çeşitliliğe bağlı temsil gücü yüksek veri setlerinin oluşturulması ve paylaşılması" önerisinde bulunulduğu [24] ve Leslie'nin bu konuya işaret eden önermelere sahip olduğu gözlemlenmektedir [14] Farklı araştırmacılar algoritmalar geliştirilirken sağlanması gereken şeffaflığa yönelik vurgu yapmaktadırlar [14] [25] [15]. Bu bağlamda Leslie ve arkadaşları "Kamu rızası, ortak tasarım, AI sistemlerinin yanlılık tespit edildiğinde kullanımının durdurulmasını içeren şeffaf inovasyon politikası ve yönetimini" içeren bir yönetim politikasına işaret etmektedirler [15].…”

Section: Araştırma Sorusu 2: Algoritmik Yanlılığın Covid-19 Ile Mücadele Bağlamında Yaratabileceği Potansiyel Sorunlar Nelerdir?unclassified

“…Röösli, Rice & Hernandez-Boussard tarafından "Küresel araştırmacılar tarafından erişilebilir, çeşitliliğe bağlı temsil gücü yüksek veri setlerinin oluşturulması ve paylaşılması" önerisinde bulunulduğu [24] ve Leslie'nin bu konuya işaret eden önermelere sahip olduğu gözlemlenmektedir [14] Farklı araştırmacılar algoritmalar geliştirilirken sağlanması gereken şeffaflığa yönelik vurgu yapmaktadırlar [14] [25] [15]. Bu bağlamda Leslie ve arkadaşları "Kamu rızası, ortak tasarım, AI sistemlerinin yanlılık tespit edildiğinde kullanımının durdurulmasını içeren şeffaf inovasyon politikası ve yönetimini" içeren bir yönetim politikasına işaret etmektedirler [15]. Ayrıca algoritmalar geliştirilirken disiplinlerarası bir ekibin sürece dahil olması da algoritmaların farklı boyutlarının keşfedilmesini kolaylaştıracak, algoritmik yanlılığın etkilerinin düşürülmesi, yönetilmesi ve çözümlenmesi noktasında katkı sağlayacaktır.…”

Section: Araştırma Sorusu 2: Algoritmik Yanlılığın Covid-19 Ile Mücadele Bağlamında Yaratabileceği Potansiyel Sorunlar Nelerdir?unclassified

See 1 more Smart Citation

COVID - 19 ve Algoritmik Yanlılık: Küresel Bir Sağlık Krizinin Gölgesinde Algoritmik Yanlılığı Tartışmak

Kuş¹

2021

CTC 2021 Proceedings Book

View full text Add to dashboard Cite

Algoritmaları eğitmek üzere kullanılan veri setindeki veya algoritmayı kodlayan ekipteki çeşitliliğin az olmasından dolayı algoritma yanlılığı ortaya çıkabilmektedir. Algoritmik yanlılığın bir sonucu olarak toplumdaki farklı gruplar veya bireyler dezavantajlı konuma düşmektedir. Bu eşitsizlik hali algoritmaların çalışma mantığı sebebiyle tekrar üretilmektedir. Bu çalışmada sistematik bir literatür taramasıyla takip eden sorulara yanıt aranmaktadır: COVID-19 salgınında potansiyel olarak algoritmik yanlılığa sebep olabilecek etmenler nelerdir, bu yanlılık hangi alanlarda ortaya çıkabilmektedir ve algoritmik yanlılık ile nasıl mücadele edilebilebilir? Bu bağlamda COVID-19 sürecinde algoritmik yanlılığın eğitim setlerine yönelik sorunlar, geliştirici ekipteki çeşitlilik sorunu ve modelleme sürecindeki anlayış sebebiyle ortaya çıkabileceği gözlemlenmiştir. COVID-19 salgınında algoritmik yanlılığın yaratabileceği potansiyel sorunlar eğitime yönelik dezavantajlar, istihdam ve işgücü yönelimli sorunlar, eğitim veri setlerindeki temsil sorununun yarattığı sorunlar şeklinde kategorize edilmiştir. Algoritmik yanlılığın önlenmesi veya etkilerinin azaltılması noktasındaki çözüm önerileri verinin özgürleştirilmesi ve iyileştirilmesi, şeffaflık, disiplinlerarasılık ve denetim olmak üzere üç ana başlık altında kategorize edilebilmektedir. Bu çözüm önerilerine ek olarak dijital medya okuryazarlığı perspektifinin ve pratiğinin algoritmaların oluşturabileceği riskleri anlamak noktasında katkı sağlayabileceğinin altı çizilmelidir.

show abstract

“…Moreover, social determinants are rarely incorporated into mathematical modelling studies, which have achieved substantive importance in informing policy-makers about the impact of disease and interventions in the population over time [19,20]. Thus, these studies may mask the differential exposure and effects across social determinants that are driving systemic inequalities [21].…”

Section: Introductionmentioning

confidence: 99%

Improving Social Justice in COVID-19 Health Research: Interim Guidelines for Reporting Health Equity in Observational Studies

Antequera

Lawson

Noorduyn

et al. 2021

IJERPH

View full text Add to dashboard Cite

The COVID-19 pandemic has highlighted the global imperative to address health inequities. Observational studies are a valuable source of evidence for real-world effects and impacts of implementing COVID-19 policies on the redistribution of inequities. We assembled a diverse global multi-disciplinary team to develop interim guidance for improving transparency in reporting health equity in COVID-19 observational studies. We identified 14 areas in the STROBE (Strengthening the Reporting of Observational Studies in Epidemiology) checklist that need additional detail to encourage transparent reporting of health equity. We searched for examples of COVID-19 observational studies that analysed and reported health equity analysis across one or more social determinants of health. We engaged with Indigenous stakeholders and others groups experiencing health inequities to co-produce this guidance and to bring an intersectional lens. Taking health equity and social determinants of health into account contributes to the clinical and epidemiological understanding of the disease, identifying specific needs and supporting decision-making processes. Stakeholders are encouraged to consider using this guidance on observational research to help provide evidence to close the inequitable gaps in health outcomes.

show abstract

Does “AI” stand for augmenting inequality in the era of covid-19 healthcare?

Abstract: Artificial intelligence can help tackle the covid-19 pandemic, but bias and discrimination in its design and deployment risk exacerbating existing health inequity argue David Leslie and colleagues on 21 March 2021 by guest. Protected by copyright.

Cited by 94 publications

References 31 publications

Data for sale: trust, confidence and sharing health data with commercial companies

Data for sale: trust, confidence and sharing health data with commercial companies

COVID - 19 ve Algoritmik Yanlılık: Küresel Bir Sağlık Krizinin Gölgesinde Algoritmik Yanlılığı Tartışmak

Improving Social Justice in COVID-19 Health Research: Interim Guidelines for Reporting Health Equity in Observational Studies

Contact Info

Product

Resources

About