Staging
v0.5.1
https://github.com/python/cpython
Revision 47ca6799725bb4c40953bb26ebcd726d1d766361 authored by Miss Skeleton (bot) on 15 October 2020, 02:11:08 UTC, committed by GitHub on 15 October 2020, 02:11:08 UTC

When running in a non-UTF-8 locale, if an error occurs while importing a
native Python module (say because a dependent share library is missing),
the error message string returned may contain non-ASCII code points
causing a UnicodeDecodeError.

PyUnicode_DecodeFSDefault is used for buffers which may contain
filesystem  paths. For consistency with os.strerror(),
PyUnicode_DecodeLocale is used for buffers which contain system error
messages. While the shortname parameter is always encoded in ASCII
according to PEP 489, it is left decoded using PyUnicode_FromString to
minimize the changes and since it should not affect the decoding (albeit
_potentially_ slower).

In dynload_hpux, since the error buffer contains a message generated
from a static ASCII string and the module filesystem path,
PyUnicode_DecodeFSDefault is used instead of PyUnicode_DecodeLocale as
is used elsewhere.

* bpo-41894: Fix bugs in dynload error msg handling

For both dynload_aix and dynload_hpux, properly handle the possibility
that decoding strings may return NULL and when such an error happens,
properly decrement any previously decoded strings and return early.

In addition, in dynload_aix, ensure that we pass the decoded string
*object* pathname_ob to PyErr_SetImportError instead of the original
pathname buffer.

Co-authored-by: Serhiy Storchaka <storchaka@gmail.com>
(cherry picked from commit 2d2af320d94afc6561e8f8adf174c9d3fd9065bc)

Co-authored-by: Kevin Adler <kadler@us.ibm.com>
1 parent 8b4642d
History
Tip revision: 47ca6799725bb4c40953bb26ebcd726d1d766361 authored by Miss Skeleton (bot) on 15 October 2020, 02:11:08 UTC
bpo-41894: Fix UnicodeDecodeError while loading native module (GH-22466)
Tip revision: 47ca679
File Mode Size
_blake2
_ctypes
_decimal
_io
_multiprocessing
_sha3
_sqlite
_ssl
_xxtestfuzz
cjkcodecs
clinic
expat
README -rw-r--r-- 112 bytes
Setup -rw-r--r-- 14.4 KB
_abc.c -rw-r--r-- 21.8 KB
_asynciomodule.c -rw-r--r-- 86.5 KB
_bisectmodule.c -rw-r--r-- 8.0 KB
_bz2module.c -rw-r--r-- 23.8 KB
_codecsmodule.c -rw-r--r-- 32.3 KB
_collectionsmodule.c -rw-r--r-- 78.5 KB
_contextvarsmodule.c -rw-r--r-- 1.9 KB
_cryptmodule.c -rw-r--r-- 1.5 KB
_csv.c -rw-r--r-- 49.6 KB
_curses_panel.c -rw-r--r-- 17.1 KB
_cursesmodule.c -rw-r--r-- 126.7 KB
_datetimemodule.c -rw-r--r-- 214.8 KB
_dbmmodule.c -rw-r--r-- 13.8 KB
_elementtree.c -rw-r--r-- 125.4 KB
_functoolsmodule.c -rw-r--r-- 43.4 KB
_gdbmmodule.c -rw-r--r-- 19.4 KB
_hashopenssl.c -rw-r--r-- 28.7 KB
_heapqmodule.c -rw-r--r-- 22.0 KB
_json.c -rw-r--r-- 60.3 KB
_localemodule.c -rw-r--r-- 19.3 KB
_lsprof.c -rw-r--r-- 25.8 KB
_lzmamodule.c -rw-r--r-- 46.8 KB
_math.c -rw-r--r-- 7.3 KB
_math.h -rw-r--r-- 1007 bytes
_opcode.c -rw-r--r-- 2.1 KB
_operator.c -rw-r--r-- 48.6 KB
_pickle.c -rw-r--r-- 230.1 KB
_posixsubprocess.c -rw-r--r-- 26.5 KB
_queuemodule.c -rw-r--r-- 11.9 KB
_randommodule.c -rw-r--r-- 17.7 KB
_scproxy.c -rw-r--r-- 6.0 KB
_sre.c -rw-r--r-- 75.9 KB
_ssl.c -rw-r--r-- 191.4 KB
_ssl_data.h -rw-r--r-- 203.1 KB
_stat.c -rw-r--r-- 15.9 KB
_statisticsmodule.c -rw-r--r-- 4.8 KB
_struct.c -rw-r--r-- 65.3 KB
_testbuffer.c -rw-r--r-- 82.2 KB
_testcapimodule.c -rw-r--r-- 186.7 KB
_testimportmultiple.c -rw-r--r-- 1.1 KB
_testinternalcapi.c -rw-r--r-- 1.7 KB
_testmultiphase.c -rw-r--r-- 17.7 KB
_threadmodule.c -rw-r--r-- 48.6 KB
_tkinter.c -rw-r--r-- 91.4 KB
_tracemalloc.c -rw-r--r-- 43.4 KB
_uuidmodule.c -rw-r--r-- 1.8 KB
_weakref.c -rw-r--r-- 4.5 KB
_winapi.c -rw-r--r-- 59.3 KB
_xxsubinterpretersmodule.c -rw-r--r-- 65.0 KB
addrinfo.h -rw-r--r-- 5.9 KB
arraymodule.c -rw-r--r-- 88.2 KB
atexitmodule.c -rw-r--r-- 8.9 KB
audioop.c -rw-r--r-- 57.2 KB
binascii.c -rw-r--r-- 53.8 KB
cmathmodule.c -rw-r--r-- 42.3 KB
config.c.in -rw-r--r-- 1.6 KB
errnomodule.c -rw-r--r-- 28.1 KB
faulthandler.c -rw-r--r-- 38.9 KB
fcntlmodule.c -rw-r--r-- 20.4 KB
gc_weakref.txt -rw-r--r-- 11.2 KB
gcmodule.c -rw-r--r-- 64.3 KB
getaddrinfo.c -rw-r--r-- 18.4 KB
getbuildinfo.c -rw-r--r-- 1.3 KB
getnameinfo.c -rw-r--r-- 6.2 KB
getpath.c -rw-r--r-- 40.5 KB
grpmodule.c -rw-r--r-- 8.3 KB
hashlib.h -rw-r--r-- 2.1 KB
hashtable.c -rw-r--r-- 14.1 KB
hashtable.h -rw-r--r-- 6.2 KB
itertoolsmodule.c -rw-r--r-- 148.4 KB
ld_so_aix.in -rw-r--r-- 6.1 KB
main.c -rw-r--r-- 18.2 KB
makesetup -rwxr-xr-x 7.7 KB
makexp_aix -rwxr-xr-x 3.2 KB
mathmodule.c -rw-r--r-- 98.9 KB
md5module.c -rw-r--r-- 15.0 KB
mmapmodule.c -rw-r--r-- 46.7 KB
nismodule.c -rw-r--r-- 11.7 KB
ossaudiodev.c -rw-r--r-- 36.2 KB
overlapped.c -rw-r--r-- 51.7 KB
parsermodule.c -rw-r--r-- 40.5 KB
posixmodule.c -rw-r--r-- 383.3 KB
posixmodule.h -rw-r--r-- 837 bytes
pwdmodule.c -rw-r--r-- 8.1 KB
pyexpat.c -rw-r--r-- 57.3 KB
readline.c -rw-r--r-- 37.1 KB
resource.c -rw-r--r-- 12.6 KB
rotatingtree.c -rw-r--r-- 3.4 KB
rotatingtree.h -rw-r--r-- 924 bytes
selectmodule.c -rw-r--r-- 76.8 KB
sha1module.c -rw-r--r-- 14.1 KB
sha256module.c -rw-r--r-- 22.2 KB
sha512module.c -rw-r--r-- 27.5 KB
signalmodule.c -rw-r--r-- 45.3 KB
socketmodule.c -rw-r--r-- 240.2 KB
socketmodule.h -rw-r--r-- 7.3 KB
spwdmodule.c -rw-r--r-- 5.9 KB
sre.h -rw-r--r-- 2.8 KB
sre_constants.h -rw-r--r-- 2.8 KB
sre_lib.h -rw-r--r-- 52.2 KB
symtablemodule.c -rw-r--r-- 3.2 KB
syslogmodule.c -rw-r--r-- 9.8 KB
termios.c -rw-r--r-- 20.4 KB
testcapi_long.h -rw-r--r-- 6.8 KB
timemodule.c -rw-r--r-- 51.8 KB
tkappinit.c -rw-r--r-- 4.7 KB
tkinter.h -rw-r--r-- 881 bytes
unicodedata.c -rw-r--r-- 43.8 KB
unicodedata_db.h -rw-r--r-- 524.3 KB
unicodename_db.h -rw-r--r-- 2.1 MB
winreparse.h -rw-r--r-- 1.6 KB
xxlimited.c -rw-r--r-- 7.0 KB
xxmodule.c -rw-r--r-- 12.6 KB
xxsubtype.c -rw-r--r-- 10.8 KB
zlibmodule.c -rw-r--r-- 41.6 KB

README

back to top